オープン ソース ONNX ランタイム

Open Neural Network Exchange (ONNX) 形式における機械学習モデルの高性能な推論エンジンである ONNX ランタイムがオープンソース化しました。ONNX ランタイムは ONNX バージョン 1.2 と互換性があり、CPU と GPU 双方の推論をサポートする Python パッケージに同梱されます。オープンソースの ONNX ランタイム プロジェクトのリリースにより、開発者は ONNX 推論エンジンをカスタマイズし、ソースコードから直接既存のインフラストラクチャに直接組み込むことが可能になります。また、多様なオペレーティング システム上でコンパイルおよび構築ができます。 

ONNX 形式とは

Open Neural Network Exchange (ONNX) とは、AI エコシステムにおける相互運用性と革新性を持つオープンなエコシステムの根幹であり、AI をよりアクセスしやすい、価値あるものになるように Microsoft が共同開発したものです。機械学習モデルを代表するオープン形式である ONNX は、AI の開発者が自らのタスクのための適切なフレームワークの選択と、ハードウェア ベンダーがストリームラインの最適化を行えるようにするものです。   

ONNX ランタイムの詳細については、ブログをご覧ください