专题演讲嘉宾:吕艺

5milesCTO

在IT技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。 2015 年,加入 5miles,任 CTO。5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker,Lambda 等容器技术与无服务技术等方面有丰富的经验。  

by 吕艺

5miles
CTO

问题背景:我们是一家出海电商平台,发现有用户从其他平台下载视频上传到我们平台,这样对平台的品牌影响比较大,所以需要一种方法能够检测用户上传的视频是否有其他平台的 Logo,如果有其他平台的 Logo ,不让这个视频上传到平台上,或者不给这个视频分配流量。

解决思路:用 TensorFlow 模型来解决;用户上传视频后,点击提交按钮,是非常重要的一个转化,性能要求也比较高。同时,因为 AI 模型要随着业务需求经常变化,我们需要快速低成本地由初级程序员部署迭代每一版 AI 模型,不希望每次模型部署都要 IT 等多部门协同。

方案介绍:找到最经常出现的 Logo 图片训练成一个 TensorFlow 模型,然后使用了 WebAssembly 虚拟机 SSVM 提供的 Rust API 来调用 TensorFlow 模型来实现最佳性能。同时使用 K8s 搭建一个内部使用的 Serverless 平台,开发者只需上传编译过后的 AI 模型就可以实现测试与生产的部署。

实践成效:
1. 识别几率达 99%,节省了运营成本
2. 一周时间,只用一个实习生就完成了,节省了开发资源
3. 业务开发只需替换模型就能实现其他功能的 AI 推理,无需与后端沟通,开发节奏上升

本次演讲将对此经验进行分享。

演讲提纲:
1. 生产环境的 AI 推理常用方法

  • 自己搭服务器
  • 使用封装好的 SaaS 产品
  • 使用 Serverless 的方式

2. Serverless AI 推理的优势
3. 技术上具体是如何实现的

  • WebAssembly 与 Rust 在其中的作用
  • K8s 与 Serverless

你将获得:

  • 使用前沿技术 Rust 与 WebAssembly,了解前沿技术发展情况
  • 用 Serverless 的方式实现 AI 推理,快速将 AI 模型带到生产环境 

 

  • 电话咨询

    联系电话:+86 13269078023
在报名过程中如有任何问题,欢迎微信扫描二维码联系我们的票务经理