在IT技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。 2015 年,加入 5miles,任 CTO。5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker,Lambda 等容器技术与无服务技术等方面有丰富的经验。
问题背景:我们是一家出海电商平台,发现有用户从其他平台下载视频上传到我们平台,这样对平台的品牌影响比较大,所以需要一种方法能够检测用户上传的视频是否有其他平台的 Logo,如果有其他平台的 Logo ,不让这个视频上传到平台上,或者不给这个视频分配流量。
解决思路:用 TensorFlow 模型来解决;用户上传视频后,点击提交按钮,是非常重要的一个转化,性能要求也比较高。同时,因为 AI 模型要随着业务需求经常变化,我们需要快速低成本地由初级程序员部署迭代每一版 AI 模型,不希望每次模型部署都要 IT 等多部门协同。
方案介绍:找到最经常出现的 Logo 图片训练成一个 TensorFlow 模型,然后使用了 WebAssembly 虚拟机 SSVM 提供的 Rust API 来调用 TensorFlow 模型来实现最佳性能。同时使用 K8s 搭建一个内部使用的 Serverless 平台,开发者只需上传编译过后的 AI 模型就可以实现测试与生产的部署。
实践成效:
1. 识别几率达 99%,节省了运营成本
2. 一周时间,只用一个实习生就完成了,节省了开发资源
3. 业务开发只需替换模型就能实现其他功能的 AI 推理,无需与后端沟通,开发节奏上升
本次演讲将对此经验进行分享。
演讲提纲:
1. 生产环境的 AI 推理常用方法
2. Serverless AI 推理的优势
3. 技术上具体是如何实现的
你将获得:



电话咨询