1. 云栖社区>
  2. 全部标签>
  3. #资源调度#
资源调度

#资源调度#

已有0人关注此标签

内容分类:
博客 | 问答 | 视频 | 资料 |

使用函数 initializer 接口优化深度学习场景下模型加载的冷启动延时

背景 深度学习场景使用函数计算典型案例 阿里云 函数计算 客户 码隆科技 是一家专注于深度学习与计算机视觉技术创新的公司。当码隆的客户上传大量图像数据后,需要尽快把图像按照客户指定的方式处理,包括商品识别,纺织面料等柔性材质识别分析,内容审查,以图搜图等等。

深度学习 性能优化 机器学习 函数 性能 aliyun 性能测试 初始化 资源调度 函数计算 initializer 冷启动

使用函数 initializer 接口优化应用层冷启动

背景 用户函数调用链路包括以下几个阶段:1)系统为函数分配计算资源;2)下载代码;3)启动容器并加载函数代码;4)用户函数内部进行初始化逻辑;5)函数处理请求并将结果返回。其中1,2,3步是系统层面的冷启动开销,通过对调度以及各个环节的优化,函数计算(FC)能做到负载快速增长时稳定的延时,细节详见 函数计算系统冷启动优化。

架构 性能优化 函数 logger 容器 runtime 弹性伸缩 控制台 aliyun html 资源调度 serverless 函数计算 冷启动优化 initializer

独家揭秘:阿里巴巴Zeus资源调度系统

阿里巴巴Zeus资源调度系统的背景和实现思路。问题、解决方案、依赖基础知识、工程实践、目标、经验分享。立足企业真实问题、常规解决策略,引出依赖的容器技术、实践方案,所有这些落实到工程实践,要解决那些问题、实现哪些目标、技术大趋势的影响。

中间件 资源调度

1
GO