现已推出

开源 ONNX 运行时

发布日期:十二月 04, 2018

ONNX 运行时是用于开放式神经网络交换 (ONNX) 格式的机器学习模型的高性能推理引擎,目前正在用开放源代码进行编写。ONNX 运行时与 ONNX 1.2 版兼容,并提供支持 CPU 和 GPU 推理的 Python 包。随着开源 ONNX 运行时项目的发布,开发人员可以直接从源代码自定义 ONNX 推理引擎并将其集成到现有的基础结构,以及在各种操作系统上编译和生成它。 

什么是 ONNX 格式?

开放式神经网络交换 (ONNX) 是 AI 生态系统中互操作性和创新型开放式生态系统的基础,它由 Microsoft 共同开发,旨在让 AI 更易于访问并为所有人提供价值。作为表示机器学习模型的开放格式,ONNX 使 AI 开发人员能够为自己的任务和硬件供应商选择合适的框架,以简化优化过程。   

要了解有关 ONNX 运行时的详细信息,请阅读博客

  • 机器学习
  • Microsoft Connect