阿里开源!轻量级深度学习端侧推理引擎 MNN

  1. 云栖社区>
  2. 阿里技术>
  3. 博客>
  4. 正文

阿里开源!轻量级深度学习端侧推理引擎 MNN

技术小能手 2019-05-07 09:42:18 浏览9497
展开阅读全文

阿里妹导读:近日,阿里正式开源轻量级深度学习端侧推理引擎“MNN”。

AI科学家贾扬清如此评价道:“与 Tensorflow、Caffe2 等同时覆盖训练和推理的通用框架相比,MNN 更注重在推理时的加速和优化,解决在模型部署的阶段的效率问题,从而在移动端更高效地实现模型背后的业务。这和服务器端 TensorRT 等推理引擎的想法不谋而合。在大规模机器学习应用中,考虑到大规模的模型部署,机器学习的推理侧计算量往往是训练侧计算量的十倍以上,所以推理侧的优化尤其重要。”

MNN背后的技术框架如何设计?未来有哪些规划?今天一起来深入了解。

1、MNN是什么?

image

MNN 是一个轻量级的深度学习端侧推理引擎,核心解决深度神经网络模型在端侧推理运行问题,涵盖深度神经网络模型的优化、转换和推理。目前,MNN已经在手淘、手猫、优酷、聚划算、UC、飞猪、千牛

网友评论

登录后评论
0/500
评论
技术小能手
+ 关注
所属云栖号: 阿里技术