오픈 소스 ONNX Runtime

ONNX(Open Neural Network Exchange) 형식의 기계 학습 모델용 고성능 유추 엔진인 ONNX Runtime이 이제 오픈 소스로 제공됩니다. ONNX Runtime은 ONNX 버전 1.2와 호환되며, CPU 및 GPU 유추를 둘 다 지원하는 Python 패키지로 제공됩니다. 오픈 소스 ONNX Runtime 프로젝트가 릴리스되면서, 개발자가 다양한 운영 체제에서 컴파일 및 빌드하는 것은 물론 자유롭게 오픈 소스에서 직접 ONNX 유추 엔진을 사용자 지정하고 기존 인프라에 통합할 수 있게 되었습니다. 

ONNX 형식이란?

ONNX(Open Neural Network Exchange)는 Microsoft가 모든 사람에게 귀중하고 더 쉽게 액세스할 수 있는 AI를 만들기 위해 공동으로 개발한 AI 에코시스템에서 개방형 상호 운용성 및 혁신 에코시스템의 기초가 됩니다. 기계 학습 모델을 나타내는 개방형 형식인 ONNX를 통해 AI 개발자는 작업에 적합한 프레임워크 및 하드웨어 공급업체를 선택하여 최적화를 간소화할 수 있습니다.   

ONNX Runtime에 대해 자세히 알아보려면 블로그를 읽어보세요.