推荐 | 阿里开源深度神经网络推理引擎 MNN

  • 时间:
  • 浏览:1
  • 来源:大发5分3DAPP下载_大发5分3DAPP官方

具体来说,MNN 负责加载网络模型,推理预测返回相关结果。整个推理过程能才能分为模型的加载解析、计算图的调度、在异构后端上高效运行。MNN 具备四大结构:

△ MNN 架构设计 ,分为 Converter 和 Interpreter 两每种

通用性:支持 Tensorflow、Caffe、ONNX 等主流模型文件格式,支持 CNN、RNN、GA

MNN 是另另另俩个轻量级的宽度学习端侧推理引擎,核心处里宽度神经网络模型在端侧推理运行什么的问提,涵盖宽度神经网络模型的优化、转换和推理。

官方希望 MNN 才能抹平 Android 和 iOS 的差异、碎片设备之间的差异、不同训练框架的差异,实现快速的在端侧部署运行,然能不才能根据业务模型进行 OP 灵活再加和 CPU/GPU 等异构设备深入性能优化。





近日,阿里正式开源了轻量级宽度学习端侧推理引擎 “MNN”。