近日,腾讯优图首个AI开源项目ncnn 正式加入ONNX,现已支持将ONNX文件转换为ncnn模型。此后,AI开发者能更快实现从研究到模型的落地部署,也能更方便地在不同框架间切换,为每项任务选取最优的开发工具。
据悉,ONNX 的全称是“Open Neural Network Exchange”,即“开放的神经网络切换”。该项目旨在实现不同神经网络开发框架之间的互通互用。目前,Microsoft Cognitive Toolkit,PyTorch 和 Caffe2 均已支持 ONNX。
腾讯方面表示,腾讯优图ncnn是腾讯社交网络事业群公布的首个AI开源项目,也是腾讯优图实验室第一次对外公开深度学习的研究成果。ncnn于2017年7月正式开源,作为一个为手机端极致优化的高性能神经网络前向计算框架,在设计之初便将手机端的特殊场景融入核心理念,是业界首个为移动端优化的开源神经网络推断库。ncnn无第三方依赖,跨平台,在手机端cpu运算速度在开源框架中处于领先水平。基于该平台,开发者能够轻松将深度学习算法移植到手机端,输出高效的执行,进而产出人工智能APP,将AI技术带到用户指尖。
在业内人士看来,不同框架间的模型转换是目前AI项目应用落地的一大痛点。ONNX是Facebook主推的开放文件格式,pytorch/caffe2原生支持。作为目前已知同类框架中CPU运算最快的ncnn,不仅具有最小的安装包体积,还拥有最佳的跨平台兼容性。在ncnn支持ONNX格式转换后,pytorch/caffe2训练的模型便能通过平台轻松部署到手机端。与此同时,ncnn也能借助ONNX良好的项目生态,对众多框架和运行库的高兼容性,以及结构定义清晰的ONNX格式,进一步降低各框架间的转换成本,促进AI移动端生态的创新和部署。
【记者】叶丹
【作者】 叶丹
【来源】 南方报业传媒集团南方+客户端
领取专属 10元无门槛券
私享最新 技术干货