在IT技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。 2015 年,加入 5miles,任 CTO。5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker,Lambda 等容器技术与无服务技术等方面有丰富的经验。

在IT技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。 2015 年,加入 5miles,任 CTO。5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker,Lambda 等容器技术与无服务技术等方面有丰富的经验。
问题背景:我们是一家出海电商平台,发现有用户从其他平台下载视频上传到我们平台,这样对平台的品牌影响比较大,所以需要一种方法能够检测用户上传的视频是否有其他平台的 Logo,如果有其他平台的 Logo ,不让这个视频上传到平台上,或者不给这个视频分配流量。
解决思路:用 TensorFlow 模型来解决;用户上传视频后,点击提交按钮,是非常重要的一个转化,性能要求也比较高。同时,因为 AI 模型要随着业务需求经常变化,我们需要快速低成本地由初级程序员部署迭代每一版 AI 模型,不希望每次模型部署都要 IT 等多部门协同。
方案介绍:找到最经常出现的 Logo 图片训练成一个 TensorFlow 模型,然后使用了 WebAssembly 虚拟机 SSVM 提供的 Rust API 来调用 TensorFlow 模型来实现最佳性能。同时使用 K8s 搭建一个内部使用的 Serverless 平台,开发者只需上传编译过后的 AI 模型就可以实现测试与生产的部署。
实践成效:
1. 识别几率达 99%,节省了运营成本
2. 一周时间,只用一个实习生就完成了,节省了开发资源
3. 业务开发只需替换模型就能实现其他功能的 AI 推理,无需与后端沟通,开发节奏上升
本次演讲将对此经验进行分享。
演讲提纲:
1. 生产环境的 AI 推理常用方法
2. Serverless AI 推理的优势
3. 技术上具体是如何实现的
你将获得:



电话咨询