온-프레미스에서 에지에 이르기까지, 프로덕션 환경 전체에서 수천 개 모델의 배포 및 관리를 간소화했습니다.
일괄 처리 및 실시간 예측을 위한 완전 관리형 엔드포인트로 더 빠르게 모델을 배포하고 점수를 매깁니다.
반복 가능한 파이프라인으로 CI/CD(연속 통합 및 지속적인 업데이트)를 위해 기계 학습 워크플로를 자동화합니다.
모델 성능 메트릭을 지속적으로 모니터링하고, 데이터 드리프트를 감지하고, 재학습을 트리거하여 모델 성능을 향상시킵니다.
신속하게 혁신 제공
기계 학습의 DevOps라고도 하는 MLOps(기계 학습 운영)는 기계 학습에서 비즈니스 가치를 얻기 위한 사람, 프로세스, 플랫폼의 교집합입니다. MLOps는 기계 학습 모델의 모니터링, 유효성 검사 및 거버넌스를 통해 개발 및 배포를 간소화합니다.
기계 학습 워크플로 및 모델 빌드
데이터 세트 및 풍부한 모델 레지스트리를 사용하여 자산을 추적합니다. 실행 기록에서 코드, 데이터 및 메트릭을 추적하는 향상된 추적 기능을 활성화합니다. 기계 학습 파이프라인을 빌드하여 일관된 모델 전달을 위해 재현 가능한 모델 워크플로를 설계, 배포 및 관리합니다.
어디서나 매우 정확한 모델을 손쉽게 배포
자신감을 가지고 신속하게 배포합니다. 관리형 온라인 엔드포인트를 사용하여 기본 인프라를 관리할 필요 없이 강력한 CPU 및 GPU 머신에 모델을 배포합니다. 모델 프로파일링 및 유효성 검사 도구를 사용하여 모든 단계에서 모델을 신속하게 패키지하고 고품질을 보장합니다. 제어된 롤아웃을 통해 모델을 프로덕션으로 승격합니다.
전체 기계 학습 수명 주기를 효율적으로 관리
워크플로를 원활하게 관리 및 자동화하기 위해 Azure DevOps 및 GitHub Actions의 기본 제공 상호 운용성을 활용합니다. 모델 학습 및 배포 파이프라인을 최적화하고, CI/CD용으로 빌드하여 재학습을 용이하게 하고, 기계 학습을 기존 릴리스 프로세스에 쉽게 맞출 수 있습니다. 고급 데이터 드리프트 분석을 사용하여 시간이 지남에 따라 모델 성능을 개선합니다.
자산에서 거버넌스 달성
감사 기능을 위해 모델 버전 기록 및 계보를 추적합니다. 리소스에 대한 컴퓨팅 할당량을 설정하고 정책을 적용하여 보안, 개인 정보 보호 및 규정 준수 표준을 준수합니다. 고급 기능을 사용하여 거버넌스 및 제어 목표를 충족하고 모델 투명성과 공정성을 촉진합니다.
MLflow와의 상호 운용성 혜택
MLflow 및 Azure Machine Learning을 사용하여 유연하고 안전한 엔드투엔드 기계 학습 워크플로를 빌드하세요. 로컬 실행에서 인텔리전트 클라우드 및 에지로 기존 워크로드를 원활하게 확장할 수 있습니다. 중앙 집중식 Azure Machine Learning 작업 영역에 MLflow 실험을 저장하고 메트릭, 매개 변수 및 모델 아티팩트 실행합니다.
작업 영역 전체에서 공동 작업 MLOps 가속화
레지스트리를 사용하여 작업 영역 간 공동 작업 및 MLOps를 쉽게 수행할 수 있습니다. 중앙 위치에서 기계 학습 자산을 호스트하여 조직의 모든 작업 영역에서 사용할 수 있도록 하세요. 팀 전체에 걸쳐 모델, 환경, 구성 요소 및 데이터 세트를 알리고 공유하며 검색하세요. 계보 및 추적 기능을 그대로 유지하면서 파이프라인을 다시 사용하고 다른 작업 영역에서 팀이 만든 모델을 배포하세요.
리소스 센터
작동 중인 기계 학습 운영 보기
모델 워크플로를 디자인, 배포. 관리하기 위한 기계 학습 파이프라인 빌드
모델 워크플로를 디자인, 배포. 관리하기 위한 기계 학습 파이프라인 빌드
기계 학습 파이프라인 자동화
Sam은 온라인 패션 소매업체에서 일하는 데이터 과학자입니다. 이 회사는 최근 기계 학습을 사용하여 시기 적절하고 정확한 권장 사항을 제공하여 고객 만족도와 매출을 모두 향상시키기 시작했습니다.
카탈로그 업데이트 후 Sam은 브랜드 추천 모델을 업데이트하라는 요청을 받았지만 현재 모델의 출처는 아무도 모릅니다. 그는 Azure Machine Learning으로 전환하여 재현 가능하고 추적 가능한 워크플로를 빌드합니다.
Sam은 최신 카탈로그 업데이트 후에 추천 모델을 업데이트하는 작업 중인 온라인 판매점에서 일하는 데이터 과학자입니다. Sam은 모델 파이프라인을 찾고 있지만 모델의 출처를 알 수 있는 방법은 없습니다.
Sam은 Azure ML을 사용하여 추적 가능한 모델 워크플로를 빌드합니다.
기존 도구에서 Azure Machine Learning 사용
Sam은 Azure Machine Learning SDK를 사용하여 Jupyter Notebook 기반 작업을 Azure Machine Learning에 이동하여 규모 및 협업 기능을 활용합니다. 그는 자신이 선택한 프레임워크를 사용하여 학습 코드와 데이터 세트를 버전화하고 추적 가능한 실험에 연결합니다.
모든 실험 실행에서 메트릭 캡처
Sam이 실행을 실행할 때마다 Azure Machine Learning 메트릭을 추적하고 검토를 위해 기록합니다. 이렇게 하면 평가 및 비교를 위한 입력(예: 데이터 세트, 코드 및 매개 변수) 및 출력(예: 로그, 메트릭 및 모델)이 캡처됩니다.
작업 영역에서 모델 및 실험 검토
Sam이 전자 필기장 환경에서 계속 작업하는 동안 그의 팀은 Azure Machine Learning 스튜디오를 사용하여 모델 레지스트리의 최종 모델부터 각 자산 및 생성 단계를 통해 쉽게 역추적합니다.
효율성 및 일관성을 위해 재사용 가능한 파이프라인 만들기
Sam은 다시 사용할 수 있는 기계 학습 파이프라인을 만들어 모델 학습 워크플로를 제공하고 원본 데이터의 변경에 따라 자동으로 트리거합니다. 필요한 경우 입력을 변경하지 않고 단계의 결과를 다시 사용할 수 있습니다.
재현 가능한 기계 학습 파이프라인 빌드
Sam은 Azure Machine Learning을 사용하여 재현 가능하고 추적 가능한 워크플로를 구축했습니다. 팀이 생성하는 각 모델은 이제 검토 및 반복을 위해 실험 실행에 연결됩니다. Sam은 재현 가능한 파이프라인을 통해 Azure Machine Learning이 재교육을 자동화하는 동시에 다음 중요한 일에 집중할 수 있도록 합니다.
Azure Machine Learning은 재현성과 추적성을 통해 엔터프라이즈급 기계 학습 파이프라인을 구축하는 데 도움이 됩니다. 이는 적은 변동성과 향상된 내결함성으로 보다 일관된 모델 제공으로 이어집니다.
Sam은 Azure ML을 활용하여 재현할 수 있고 추적할 수 있는 워크플로를 빌드했습니다. 팀에서 생성하는 각 모델은 이제 실험 실행에 연결되며 팀에 검토 및 반복 기능을 제공합니다. 재현할 수 있는 파이프라인을 사용하면 Sam이 다음에 해결할 큰 문제에 집중하는 동안 Azure ML은 재학습을 자동화할 수 있습니다.
Azure ML은 재현 가능성 및 추적 가능성을 통해 엔터프라이즈급 기계 학습 파이프라인을 빌드하도록 지원합니다. 이로 인해 가변성을 줄이고 내결함성을 향상시킨 결과 일관된 모델 제공이 가능해집니다.
자동 스케일링 및 관리되는 분산 유추 클러스터를 사용하여 자신 있는 방식으로 신속하게 배포
자동 스케일링 및 관리되는 분산 유추 클러스터를 사용하여 자신 있는 방식으로 신속하게 배포
모델에 대한 웹 서비스 엔드포인트 배포
온라인 소매점에서 일하는 데이터 과학자인 Sam은 더 나은 모델을 빌드하기 위해 워크플로에 Azure Machine Learning을 추가했습니다. 자동화된 파이프라인은 성능 향상을 보여 주는 연결된 실험적 결과가 포함된 최종 모델을 등록했습니다.
웹 개발 팀은 웹앱에 기계 학습 모델을 포함하는 방법을 잘 모르고 대신 웹 서비스를 요청했습니다. Sam은 해당 모델에 웹 서비스 엔드포인트를 추가하는 데 도움이 되도록 Azure Machine Learning을 설정합니다.
온라인 판매점의 데이터 과학자인 Sam은 Azure ML을 사용하여 모델을 만들고 등록했습니다. 웹 개발 팀이 지금 그에게 추론을 위해 모델을 호출할 웹 엔드포인트를 요청했습니다. Sam은 Azure ML을 사용하여 이 웹 서비스 엔드포인트를 생성합니다.
최신 모델을 가져와서 프로덕션을 위해 프로파일링하기
Sam은 레지스트리에서 최신 모델을 가져오고 이를 프로파일링하여 프로덕션에 필요할 수 있는 리소스 종류를 확인합니다.
모델을 Azure Container Instances 푸시
프로파일링 데이터를 사용하는 Sam은 Azure Machine Learning 사용하여 모델을 컨테이너에 패키지하고 실시간 또는 일괄 처리 추론을 위해 Azure Container Instances 배포합니다. 배포 후에는 Azure Machine Learning 자동 스키마 생성 및 모니터링 기능을 활용합니다.
확장성 있고 다양한 엔드포인트에 배포하고 A/B 테스트 구현
Sam은 몇 줄의 코드만으로 동일한 모델을 AKS(확장성 있는 Azure Kubernetes Service) 인스턴스에 푸시하고 새 모델 유효성 검사를 위해 고급 A/B 테스트 기능을 연습합니다. 이제 CPU, GPU 및 FPGA를 비롯한 컴퓨팅 옵션을 사용하여 클라우드에서 에지까지 필요한 위치에 모델을 배포할 수 있습니다.
웹 개발팀이 배포된 모델을 사용할 수 있도록 설정
모델이 AKS 인스턴스에 배포된 후 웹 개발 팀은 웹 서비스 엔드포인트에 액세스하여 실시간 또는 일괄 처리 추론 요구를 위해 애플리케이션에서 호출합니다. Sam은 필요에 따라 감사할 수 있는 데이터 드리프트 및 기타 메트릭에 대한 모델 엔드포인트를 모니터링합니다.
필요한 위치에 모델 게시
Sam은 자신의 오픈 소스 모델을 개발 팀을 위한 프로덕션 준비 웹 서비스로 전환했습니다. 그는 Kubernetes, Flask, Swagger 등 서비스 호스팅에 필요한 많은 기술을 배우기보다 모델 개발에 집중했습니다.
Azure Machine Learning을 사용하면 모델을 성숙하고 완전한 기능을 갖춘 웹 서비스로 원활하게 전환하여 애플리케이션에서 빠르게 채택할 수 있습니다.
Azure ML을 사용하여 Sam은 자신의 오픈 소스 모델을 개발팀이 사용할 수 있는 프로덕션이 준비된 웹 서비스로 빠르게 전환했습니다. 데이터 과학자로서 그는 서비스 호스팅에 필요한 많은 기술(Kubernetes, Flask 및/또는 Swagger 포함)을 새로 배울 필요 없이 모델 개발에 집중할 수 있었습니다.
Azure ML은 데이터 과학자가 모델을 성숙하고 완전한 기능을 갖춘 웹 서비스로 원활하게 전환하여 애플리케이션에 신속하게 채택할 수 있게 해줍니다.
Azure DevOps 및 GitHub Actions 상호 운용하여 기계 학습 워크플로 자동화
Azure DevOps 및 GitHub Actions 상호 운용하여 기계 학습 워크플로 자동화
DevOps 워크플로와 통합
온라인 소매점에서 근무하는 데이터 과학자인 Sam은 Azure Machine Learning을 사용하여 모델을 빌드하고 배포했습니다. 그는 최근에 AKS(Azure Kubernetes Service 프로덕션 인스턴스)에 모델을 릴리스했으며 웹 팀은 이를 웹앱에 통합했습니다.
운영 팀에 있는 Rebecca는 모델 빌드 및 배포가 DevOps 워크플로의 일부인지 확인하려고 합니다. Sam은 이를 통합하는 방법을 모르기 때문에 Azure Machine Learning에 대해 Rebecca를 교육하고 그녀와 협력하여 두 요구 사항을 모두 충족할 수 있는 방법을 결정합니다.
데이터 과학자인 Sam은 최근에 Azure ML을 사용하여 모델을 구축하고 배포했습니다. Sam은 막 생산용 AKS 인스턴스에 모델을 출시했습니다. Rebecca는 이를 DevOps 워크플로와 통합하려고 하고, Sam은 Azure ML을 가리킵니다.
Azure Pipelines를 사용하여 새 릴리스 파이프라인 만들기
Azure Pipelines에서 파이프라인을 만들어 배포 프로세스를 자동화합니다. 파이프라인의 첫 번째 단계에서는 모든 종속성을 사용하여 모델을 빌드하고 오류를 확인하는 등의 작업을 수행합니다. 이 파이프라인을 자동으로 트리거하기 위해 Rebecca는 이를 Azure Machine Learning 모델 레지스트리에 연결하여 새 모델 또는 새 버전의 모델이 등록될 때마다 파이프라인이 시작되도록 합니다.
유효성 검사를 위한 모델 게시
Rebecca는 프로덕션으로 넘어가기 전에 유효성 검사를 위해 Azure Container Instances 모델을 게시하는 작업을 추가합니다. 그녀는 Azure CLI 사용하여 Azure Machine Learning 상호 작용합니다. 그러면 Sam이 전자 필기장에 있는 도구 내의 동일한 기능에 액세스할 수 있습니다. 이 단계는 앱의 DevOps 프로세스에서 통합 테스트를 모방합니다.
유효성 검사 시 모델을 프로덕션으로 이동
Rebecca는 AKS를 사용하여 모델을 프로덕션에 배포하는 릴리스 파이프라인 작업을 추가합니다. 이 작업이 활성화되기 전에, 계속해서 진행하기 전에 잠재 고객 또는 관리자가 평가하고 승인하도록 요구하는 게이트를 구성합니다. 이렇게 하면 스크립티드 유효성 검사에서 문제가 확인되지 않은 경우 파이프라인이 주요 중단을 일으키지 않습니다.
재학습을 트리거하도록 데이터 드리프트 검색 설정
Rebecca가 모델을 배포하기 위해 자동화된 파이프라인을 설정하는 동안 Sam은 Azure Machine Learning을 통해 데이터 드리프트 모니터링을 활성화합니다. 서비스 사용량을 모니터링함으로써 프로덕션의 추론 요청이 학습 데이터 세트에서 벗어나기 시작하는지 확인할 수 있으며, 이는 재교육이 필요하다는 것을 나타냅니다.
안정성 및 성능에 대한 서비스 모니터링
Azure Monitor 기능인 Application Insights 사용하여 요청 수, AKS 클러스터의 로드 및 응답 대기 시간과 같은 서비스 작업을 모니터링하고 Sam은 모델 성능을 모니터링하여 최적화 여부를 결정합니다.
간소화된 모델 워크플로 만들기
Rebecca는 릴리스 자동화에서 프로덕션 모니터링에 이르기까지 Azure Machine Learning을 DevOps 워크플로에 통합했습니다. Rebecca가 서비스 작업을 주시하는 동안 Sam은 모델 성능을 모니터링 및 관리하고 필요에 따라 최적화합니다.
Azure Machine Learning은 조직의 DevOps 프로세스에서 데이터 과학을 향상시켜 보다 안정적이고 강력한 기계 학습 프로젝트로 이끕니다.
Azure ML은 Azure DevOps 및 Azure App Insights와 같은 기존 도구에 네이티브 통합을 사용하여 자동화 릴리스부터 프로덕션 모니터링에 이르는 Rebecca의 기존 DevOps 워크플로에 원활하게 통합되었습니다. Rebecca기 서비스 작업을 계속 주시하는 동안 Azure ML은 Sam에게 모델 성능을 모니터링 및 관리하고 필요에 따라 최적화할 수 있는 도구를 제공합니다.
Azure ML은 조직의 기존 DevOps 프로세스에서 데이터 과학이 최고의 위치를 차지하도록 하여, 보다 안정적이고 강력한 기계 학습 프로젝트로 이어지게 해줍니다.
기계 학습 프로젝트에서 거버넌스 및 비용 관리 개선
기계 학습 프로젝트에서 거버넌스 및 비용 관리 개선
기계 학습 모델 거버넌스 사용 중
온라인 패션 소매업체의 IT 관리자인 Phil은 데이터 과학 및 운영 팀이 Azure Machine Learning으로 수행한 작업에 대해 관심이 많습니다.
Phil은 회사의 IT 인프라를 담당하고 있지만, 프로덕션 환경에서 액세스 권한이 있는 사용자 또는 비용이 얼마나 드는지 확실히 알지 못합니다. 그는 Azure Machine Learning을 사용하여 거버넌스 책임을 이행할 수 있도록 하기로 결정합니다.
온라인 판매점의 IT 관리자인 Phil은 Sam과 Rebecca의 작업에 대해 매우 기뻐하고 있지만, Phil은 IT 인프라를 책임지고 있고, ML 프로젝트에 대한 거버넌스를 보장하는 방법을 알지 못합니다. 그는 도움을 청하기 위해 Azure ML을 보고 있습니다.
프로덕션에서 모델 검토
Phil은 Azure Machine Learning 사용하여 프로덕션 엔드포인트를 감사합니다. 모델 설명 및 공정성 분석의 출력과 함께 기본 모델 및 실험으로 돌아갈 수 있습니다. 이렇게 하면 모델 만들기 프로세스의 모든 단계를 추적하고 모든 바이어스에 대한 모델 감사를 사용할 수 있습니다.
자세한 모델 기록에 대한 감사 로그 확인
Phil은 Azure Machine Learning 감사 로그에 액세스합니다. 모델에 있는 추적 기능을 보완하고 모든 작업(날짜, 시간 및 사용자)을 추적하는 자세한 로그를 실험합니다. 이러한 로그는 조직 전체의 책임을 위해 서비스 내에서 또는 서비스에서 시작된 작업을 추적하는 데 도움이 됩니다.
Azure ID 및 액세스 관리를 사용하여 작업 영역 보호
Phil은 Azure ID 및 액세스 관리 솔루션을 사용하여 Azure Machine Learning 작업 영역에 대한 액세스를 관리합니다. 기본 제공 역할과 사용자 지정 역할을 모두 사용하여 사용자가 리소스에 대한 액세스를 수행하고 제어할 수 있는 작업을 제한합니다.
Azure 리소스를 사용하여 책임 소재 확인
Phil은 할당량 기능을 사용하여 리소스 제한 및 공유를 구성합니다. 이렇게 하면 지출을 관리하고, 비용을 제어하고, 팀 전체에서 공평한 리소스 할당을 보장할 수 있습니다. 또한 각 프로젝트 팀의 책임을 권장합니다.
모델 거버넌스 및 규정 준수 달성
Phil은 이제 감사, 역할 기반 액세스 제어 및 할당량 관리를 통해 프로덕션에 무엇이 있는지 확인하고 조직의 규정 준수를 보장할 수 있습니다. 그는 Azure Machine Learning이 데이터 과학 및 운영 팀을 지원할 뿐만 아니라 그가 필요로 하는 엔터프라이즈급 거버넌스 기능을 제공하는 방법을 높이 평가합니다.
Azure Machine Learning는 기계 학습 프로젝트를 성공적이고 안전하게 만드는 데 필수적인 조직 제어 기능을 제공합니다.
Azure Machine Learning 모니터 Azure Machine Learning 비용 계획 및 관리
Phil은 Azure ML이 데이터 과학 및 운영팀을 지원할 뿐만 아니라 자신의 책임을 확실히 파악하는 데 필요한 엔터프라이즈급 거버넌스 기능을 제공한다는 점이 마음에 듭니다. 프로덕션에 무엇이 있는지 정확하게 확인할 수 있을 뿐만 아니라 감사, 역할 기반 액세스 제어 및 할당량 관리를 통해 조직의 규정 준수를 확보할 수 있습니다.
Azure ML은 기계 학습 프로젝트의 성공과 안전을 위해 필수적인 조직 제어를 제공합니다.
Azure Machine Learning 모니터 Azure Machine Learning 비용 계획 및 관리
포괄적인 보안 및 규정 준수, 기본 제공
-
Microsoft는 사이버 보안 연구 및 개발에 매년 USD 10억 넘게 투자합니다.
-
Microsoft에 소속된 3,500명 이상의 보안 전문가가 데이터 보안 및 개인 정보 보호를 전담합니다.
-
Azure에는 다른 어떤 클라우드 공급자보다도 더 많은 인증이 있습니다. 전체 목록을 확인하세요.
Azure 체험 계정 시작하기
무료로 시작하세요. 30일 이내에 사용할 수 있는 $200 크레딧을 받으세요. 크레딧이 있는 동안 40개 이상의 상시 무료 서비스와 함께 여러 가지 최고 인기 서비스를 무료로 받으세요.
크레딧을 받은 후 동일한 무료 서비스를 계속 사용하려면 종량제로 이동하세요. 무료 월간 금액보다 많이 사용한 경우에만 지불하세요.
12개월 후 후에도 40개 이상의 무료 서비스를 계속 이용할 수 있으며 월간 무료 금액을 초과하여 사용한 만큼만 비용을 지불합니다.
고객이 기계 학습 운영을 통해 가치를 제공하는 방법 확인
FedEx
Bikram Virk, FedEx의 AI 및 기계 학습 부문 제품 관리자"Customers expect timely and accurate information on their packages and a data-based delivery experience. We're helping FedEx stay on the leading edge with Azure Machine Learning, and we're building expertise for future projects."
BRF
Alexandre Biazin, BRF 기술 이사"We're scaling with automated machine learning in Azure and MLOps capabilities in Azure Machine Learning so that our 15 analysts can focus on more strategic tasks instead of the mechanics of merging spreadsheets and running analyses."
Nestle
Ignasi Paredes-Oliva, Nestlé Global Security Operations Center의 수석 데이터 과학자"MLOps is at the core of our product. Because of its reproducible ML pipelines, ...registered models, and automatic model scoring, we're definitely detecting things that we missed before. Which, in terms of risk management, is really, really important."
PepsiCo
Michael Cleavinger, PepsiCo의 쇼핑객 인사이트, 데이터 과학 및 고급 분석 담당 선임 이사"We've used the MLOps capabilities in Azure Machine Learning to simplify the whole machine learning process. That allows us to focus more on data science and let Azure Machine Learning take care of end-to-end operationalization."
