为了解决移动端 AI 在不同应用场景下的产品性能和用户体验，快手自研了 YCNN 端上深度学习推理引擎。该引擎在不同硬件平台做了适配和指令级优化，可以让复杂神经网络模型在运行时得到加速实现；并与模型压缩配合，减少模型在空间和时间上的消耗；同时不影响算法精度并保证技术创新水平，便于部署在受限制的端上环境中。本次演讲我将分享 YCNN 端上模型设计和高效引擎设计，希望能够让大家在自身端侧 AI 的探索上有所启发。

演讲提纲：

1. 移动端AI应用场景

• 短视频拍摄
• 人体分析/场景理解
• 智能图像处理
• 智能美颜/风格化

2. 端上模型设计

• 重点要素
• 普适高效
• 基于引擎特性的模型设计
• 协同设计
• 生成式模型实时化
• 实时化难度与实战

3. 高效引擎设计

• 整体框架介绍
• 全平台覆盖/工具链
• 混合精度量化方案设计
• 定点与浮点混合使用
• 端上引擎的优化策略
• 算子融合/特殊优化/自动适配

4. 未来与展望

听众收益：

• 端上 AI 实际的应用场景
• 移动端模型设计