前言概述 本文介绍了使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖、一键部署、本地调试以及压测评估 全方位展现函数计算的開发敏捷特性、自动弹性伸缩能力、免运维和完善的监控设施。 DEMO 示例工程地址： /awesome-fc/cat-dog- 和 VPC 控制台 如果是一个在线AI推理服务对响应时间非常敏感，冷启动引起的毛刺对于这种类型的服务是不可接受的接下来，本文讲解如何利用函数计算的预留模式来消除冷启动带来的负面影响 使用预留模式消除冷启动毛刺 函数计算具有动态伸缩的特性， 根据并发请求量自动弹性扩容出执行环境来执行环境，在这个典型的深度學习示例中import keras 消耗的时间很长 ， 在我们设置的 1 G 规格的函数中 这个时候是没有冷启动的，所以请求是没有毛刺的 后面随着测试的压力不斷增大(峰值TPS 达到 1184), 预留的实例不能满足调用函数的请求， 这个时候函数计算就自动进行按需扩容实例供函数执行此时的调用就有冷启动的過程， 从上面我们可以看出函数的最大 latency 时间甚至达到了 32s，如果这个web AP是延时敏感的这个 latency 是不可接受的。 总结 函数计算具有快速自动伸缩擴容能力 预留模式很好地解决了冷启动中的毛刺问题 开发简单易上手只需要关注具体的代码逻辑， Fun 工具助您一键式部署运用 函数计算具囿很好监控设施, 您可以可视化观察您函数运行情况 执行时间、内存等信息