オン プレミスからエッジまで、運用環境全体で数千のモデルのデプロイと管理を合理化しました
モデルをより迅速にデプロイおよびスコア付けするための、バッチおよびリアルタイムの予測のためのフル マネージド エンドポイント
継続的インテグレーション/継続的デリバリー (CI/CD) のための機械学習ワークフローを自動化するための繰り返し可能なパイプライン
モデルパフォーマンス メトリックを継続的に監視し、データ ドリフトを検出し、モデルのパフォーマンスを向上させるために再トレーニングをトリガーします
イノベーションを迅速に実現する
MLOps (機械学習操作、または機械学習用 DevOps) は、機械学習からビジネス価値を得るための人、プロセス、プラットフォームの共通部分です。機械学習モデルの監視、検証、ガバナンスを使用して、開発とデプロイを合理化します。
機械学習ワークフローとモデルの構築
データセットとリッチ モデル レジストリを使用して資産を追跡します。実行履歴内のコード、データ、メトリクスを追跡することで、追跡可能性を高めます。機械学習パイプラインを構築して、再現可能なモデル ワークフローを設計、デプロイ、管理し、一貫したモデル配信を実現します。
非常に正確なモデルをどこからでも簡単にデプロイ
自信を持って迅速にデプロイします。マネージド オンライン エンドポイントを使用して、基盤となるインフラストラクチャを管理することなく、強力な CPU および GPU マシンにモデルをデプロイします。モデルのプロファイリングと検証ツールを使用して、モデルを迅速にパッケージ化し、すべてのステップで高品質を確保します。制御されたロールアウトを使用して、モデルを運用環境に昇格させます。
機械学習ライフサイクル全体を効率的に管理する
Azure DevOps と GitHub Actions との組み込みの相互運用性を活用して、ワークフローをシームレスに管理および自動化します。モデルのトレーニングとデプロイ パイプラインを最適化し、CI/CD 用にビルドして再トレーニングを容易にし、機械学習を既存のリリース プロセスに簡単に適合させます。高度なデータ ドリフト分析を使用して、時間の経過と共にモデルのパフォーマンスを向上させます。
資産全体でガバナンスを実現する
モデルのバージョン履歴と系列を追跡して、監査可能性を高めます。リソースにコンピューティング クォータを設定し、ポリシーを適用して、セキュリティ、プライバシー、コンプライアンスの標準を確実に遵守します。高度な機能を使用して、ガバナンスと制御の目標を達成し、モデルの透明性と公平性を高めます。
MLflow との相互運用性のメリット
MLflow とAzure Machine Learning を使用して、柔軟で安全なエンドツーエンドの機械学習ワークフローを構築します。既存のワークロードをローカルの実行からインテリジェントなクラウドとエッジにシームレスにスケーリングできます。MLflow の実験を格納し、メトリック、パラメーター、モデル成果物を一元化された Azure Machine Learning ワークスペースで実行します。
ワークスペース間で共同 MLOps を高速化する
レジストリを使用して、ワークスペース間の共同作業と MLOps を容易にします。機械学習資産をホストで一元管理し、組織内のすべてのワークスペースで利用できるようにします。チーム間でモデル、環境、コンポーネント、データセットを昇格、共有、検出します。系列と追跡可能性を維持しながら、他のワークスペースでチームによって作成されたパイプラインを再利用し、モデルをデプロイします。
リソース センター
実施中の機械学習の運用を確認する
機械学習パイプラインを構築して、モデル ワークフローを設計、デプロイ、管理する
機械学習パイプラインを構築して、モデル ワークフローを設計、デプロイ、管理する
機械学習パイプラインの自動化
Sam は、オンライン ファッション小売業者で働くデータ サイエンティストです。同社は最近、機械学習を使用してタイムリーで正確なおすすめを提供し始め、顧客満足度と売上の両方を改善しました。
カタログの更新後、Sam はブランドのおすすめモデルを更新するように求められましたが、現在のモデルがどこから来たのかは誰も知りません。そこで彼は Azure Machine Learning に目を付け、再現可能で追跡可能なワークフローを構築します。
Sam はオンライン小売業のデータ サイエンティストで、直近のカタログ更新後にレコメンデーション モデルを更新する任務を負っています。Sam はモデル パイプラインを探していますが、モデルの取得元を把握していません。
Sam は Azure ML を使用して、トレース可能なモデル ワークフローを構築します。
既存のツールで Azure Machine Learning を使用する
Sam は、Azure Machine Learning SDK を使用して、Jupyter Notebook ベースの作業を Azure Machine Learning に移行し、そのスケールとコラボレーション機能を活用します。選択したフレームワークを使用して、トレーニング コードとデータセットをバージョン管理し、追跡可能な実験にリンクしています。
実験の実行ごとにメトリックをキャプチャする
Sam が実行するたびに、Azure Machine Learning はそのメトリックを追跡し、レビューのためにログに記録します。これにより、評価と比較のための入力 (データセット、コード、パラメーターなど) と出力 (ログ、メトリック、モデルなど) がキャプチャされます。
ワークスペースでモデルと実験を確認する
Sam は引き続きノートブック環境で作業を続けていますが、チームは Azure Machine Learning スタジオを使用して、モデル レジストリ内の最終的なモデルから、作成に使用される各資産と手順を簡単に追跡します。
効率と一貫性のために再利用可能なパイプラインを作成する
Sam は再利用可能な機械学習パイプラインを作成し、モデル トレーニング ワークフローを提供し、ソース データの変更時に自動的にトリガーします。必要に応じて、入力を変更せずにステップの結果を再利用できます。
再現可能な機械学習パイプラインの構築
Sam は、Azure Machine Learning を使用して再現可能で追跡可能なワークフローを構築しました。チームが生成する各モデルは、レビューとイテレーションのために実験の実行に関連付けられるようになりました。Sam は、再現可能なパイプラインにより、Azure Machine Learning に再トレーニングを自動化させ、その間、次の大きな仕事に専念しています。
Azure Machine Learning は、再現性と追跡可能性を通じてエンタープライズ レベルの機械学習パイプラインを構築するのに役立ちます。これにより、変動性が低くフォールト トレランスが向上し、モデルの配信の一貫性が向上します。
Azure ML を活用して、Sam は再現可能でトレース可能なワークフローを構築しました。チームが生成する各モデルは実験の実行に結び付けられ、チームはレビューと反復処理を行うことができるようになります。再現可能なパイプラインを使用すると、Sam は Azure ML で再トレーニングを自動化しながら、次の大きな問題に集中することができます。
Azure ML は、再現性とトレーサビリティを通じて、エンタープライズレベルの機械学習パイプラインを構築するのに役立ちます。これにより、変動が少なく、フォールト トレランスが向上し、より一貫したモデル配信が可能になります。
自動スケーリングとマネージド分散推論クラスターを使用して、自信を持って迅速にデプロイする
自動スケーリングとマネージド分散推論クラスターを使用して、自信を持って迅速にデプロイする
モデルの Web サービス エンドポイントのデプロイ
オンライン ファッション販売店で働くデータ サイエンティストである Sam は、より優れたモデルを構築するためにワークフローに Azure Machine Learning を追加しました。彼の自動パイプラインでは、パフォーマンスの向上を示す試験的な結果が添付された最終的なモデルが登録されました。
Web 開発チームは、機械学習モデルを Web アプリに埋め込む方法がわからないので、代わりに Web サービスを要求しています。Sam は、モデルに Web サービス エンドポイントを追加するために Azure Machine Learning に目を付けます。
オンライン販売店のデータ科学者である Sam は、Azure ML を使用してモデルを作成し、登録しました。Sam は Web 開発チームから、推論のためのモデルを呼び出す Web エンドポイントの依頼を受けました。Sam は Azure ML を使用してこの Web サービス エンドポイントを作成します。
最新のモデルをフェッチして運用環境用にプロファイル
Sam はレジストリから最新のモデルをフェッチし、プロファイルして、運用環境で必要になる可能性があるリソースの種類を確認します。
モデルを Azure Container Instances にプッシュする
プロファイル データを手に入れた Sam は、Azure Machine Learning を使用してモデルをコンテナーにパッケージ化し、リアルタイムまたはバッチ推論のために Azure Container Instances にデプロイします。デプロイ後、Azure Machine Learning のスキーマの自動生成と監視機能を利用します。
スケーラブルでさまざまなエンドポイントにデプロイし、A/B テストを実装
2 行のコードだけで、Sam は同じモデルをよりスケーラブルな Azure Kubernetes Service (AKS) インスタンスにプッシュし、新しいモデル検証のための高度な A/B テスト機能を実行します。こうして彼は CPU、GPU、FPGA などのコンピューティング オプションを使用して、クラウドからエッジまで、必要に応じてモデルをデプロイできるようになりました。
Web 開発チームがデプロイされたモデルを使用できるようにする
モデルが AKS インスタンスにデプロイされると、Web 開発チームは Web サービス エンドポイントにアクセスし、リアルタイムまたはバッチ推論のニーズに応じてアプリケーションから呼び出します。Sam は、必要に応じて監査できるデータ ドリフトやその他のメトリックについてモデル エンドポイントを監視します。
必要な場所にモデルを発行する
Sam は、オープンソース モデルを開発チームの実稼働対応 Web サービスに変えました。Kubernetes、Flask、Swagger など、サービス ホスティングに必要な多くのテクノロジを学習するのではなく、モデル開発に専念しました。
Azure Machine Learning は、モデルを成熟した完全な機能を備えた Web サービスにシームレスに移行し、アプリケーションで迅速に採用できるようにします。
Azure ML を使用して、Sam はオープン ソースモデルを採用し、開発チームが使用できる運用環境対応の Web サービスにすばやくに移行しました。データ サイエンティストとして、サービス ホスティングに必要な多くのテクノロジ (Kubernetes、Flask、Swagger など) を使いこなす必要がなく、モデル開発に専念することができました。
Azure ML は、データ サイエンティストがモデルを成熟した完全な Web サービスにシームレスに移行することにより、アプリケーションにすばやく導入できるようにします。
Azure DevOps や GitHub Actions と相互運用して機械学習ワークフローを自動化する
Azure DevOps や GitHub Actions と相互運用して機械学習ワークフローを自動化する
DevOps ワークフローとの統合
オンライン ファッション販売店で働くデータ サイエンティストである Sam は、Azure Machine Learning を使用してモデルの構築とデプロイを行いました。彼は最近、Azure Kubernetes Service (AKS) の運用インスタンスにモデルをリリースしました。Web チームは、それを Web アプリに統合して有望な結果を得ました。
運用チームに所属する Rebecca は、モデルのビルドとデプロイが DevOps ワークフローの一部であることを確認したいと考えています。Sam はそれを組み込む方法がわからないため、Azure Machine Learning で Rebecca をトレーニングし、彼女と協力して、両方の要件を満たす方法を決定します。
データ サイエンティストである Sam は、最近 Azure ML を使用してモデルを構築およびデプロイしました。彼はモデルを運用環境の AKS インスタンスにリリースしたところです。Rebecca はそれを DevOps ワークフローと統合しようとしています。Sam は Rebecca を Azure ML に注目させています。
Azure Pipelines を使用した新しいリリース パイプラインの作成
Rebecca は、デプロイ プロセスを自動化するために Azure Pipelines にパイプラインを作成します。パイプラインの最初のステップでは、すべての依存関係を含むモデルの構築やエラーのチェックなどのタスクを実行します。このパイプラインを自動的にトリガーするために、Rebecca は Azure Machine Learning モデル レジストリにこれを接続し、新しいモデルまたは新しいバージョンのモデルが登録されるたびに開始されるようにします。
検証のためにモデルを発行
Rebecca は、運用環境に移行する前に、検証のためにモデルをAzure Container Instancesに発行するタスクを追加します。Azure CLI を使用して Azure Machine Learning と対話します。これにより、Sam がノートブックに入れているのと同じツール内の機能にアクセスできます。この手順は、アプリの DevOps プロセスでの統合テストを模倣しています。
検証時にモデルを運用環境に移動する
Rebecca は、AKS を使用してモデルを運用環境にデプロイするためのリリース パイプライン タスクを追加します。このタスクがアクティブ化される前に、Rebecca は、続行する前に、リードまたはマネージャーに評価と承認を要求するゲートを構成します。これにより、スクリプト化された検証で問題がキャッチされなかった場合でも、パイプラインが大きな中断を引き起こすことはありません。
再トレーニングをトリガーするようにデータ ドリフト検出を設定する
Rebecca はモデルをデプロイするための自動化されたパイプラインを設定し、Sam は Azure Machine Learning によるデータ ドリフトの監視を有効にします。Sam は、サービスの使用状況を監視することで、運用環境の推論要求がトレーニング データセットから外れ始めるかどうかを確認できます。外れ始めたら、再トレーニングが必要です。
サービスの安定性とパフォーマンスを監視
Rebecca は、Azure Monitor の機能である Application Insights を使用して、要求の数、AKS クラスターでの負荷、応答の待機時間などのサービス操作を監視し、Sam はモデルのパフォーマンスを監視して最適化を行うかどうかを判断します。
合理化されたモデル ワークフローを作成する
Rebecca は、リリースの自動化から運用環境の監視まで、DevOps ワークフローに Azure Machine Learning を組み込んでいます。サービス操作を監視しながら、Sam はモデルのパフォーマンスを監視および管理し、必要に応じて最適化します。
Azure Machine Learning は、組織の DevOps プロセスにおけるデータ サイエンスの昇格に役立ち、信頼性の高い堅牢な機械学習プロジェクトにつながります。
Azure ML は、リリースの自動化から運用環境の監視まで、Rebecca の既存の DevOps ワークフローにシームレスに統合されて、Azure DevOps や Azure App Insights などの既存のツールにネイティブに統合されています。そして、Rebecca がサービス運用を監視している間、Azure ML により Sam はモデルのパフォーマンスを監視および管理し、必要に応じて最適化するツールが提供されます。
Azure ML は、データ サイエンスが組織の既存の DevOps プロセスの最上級のオブジェクトとなり、より信頼性が高く堅牢な機械学習プロジェクトにつながるよう支援します。
機械学習プロジェクト全体でガバナンスとコスト管理を改善する
機械学習プロジェクト全体でガバナンスとコスト管理を改善する
機械学習モデルのガバナンスの有効化
オンライン ファッション販売店の IT マネージャーである Phil は、データ サイエンスチームと運用チームが Azure Machine Learning を使って行ってきた作業に熱心に取り組んでいます。
Phil は会社の IT インフラストラクチャを担当していますが、運用環境に何があるか、誰がアクセス権を持っているか、またはどれくらいのコストがかかるのかは不明です。彼は、ガバナンスの責任を果たすために Azure Machine Learning を使用することにしました。
オンライン販売店の IT マネージャーである Phil は、Sam と Rebecca の仕事を楽しみにしています。しかし、Phil は IT インフラストラクチャを担当しているものの、ML プロジェクトに対するガバナンスを確保する方法を知りません。彼は支援を求めて Azure ML に注目しています。
運用環境でモデルを確認する
Phil は、Azure Machine Learning を使用して運用エンドポイントを監査します。モデルの説明と公平性分析の出力と共に、基になるモデルと実験に戻ることができます。これにより、モデル作成プロセスのすべてのステップをトレースし、バイアスに対するモデル監査が可能になります。
監査ログでモデルの詳細な履歴を確認
Phil は、Azure Machine Learning 監査ログにアクセスします。モデルと実験で見つかった追跡可能性を、すべてのアクション (日付、時刻、ユーザー) を追跡する詳細なログで補完します。これらのログは、Phil が組織全体のアカウンタビリティのためにサービス内またはサービスによって開始されたアクションをトレースするのに役立ちます。
Azure ID とアクセス管理を使用してワークスペースをセキュリティで保護する
Phil は、Azure ID とアクセス管理ソリューションを使用して、Azure Machine Learning ワークスペースへのアクセスを管理します。組み込みロールとカスタム ロールの両方を使用して、ユーザーが実行できるタスクを制限し、リソースへのアクセスを制御します。
Azure リソースを使用してアカウンタビリティを確保する
Phil はクォータ機能を使用して、リソースの制限と共有を構成します。これは、支出の管理、コストの管理、チーム間の公平なリソース割り当ての確保に役立ちます。また、それぞれのプロジェクト チームによるアカウンタビリティも促進されます。
モデルのガバナンスとコンプライアンスを実現する
Phil は、運用環境の内容を確認し、監査、ロールベースのアクセス制御、クォータ管理を通じて組織のコンプライアンスを確保できるようになりました。Azure Machine Learning がデータ サイエンス チームと運用チームをサポートするだけでなく、必要なエンタープライズ レベルのガバナンス機能を提供することに感謝しています。
Azure Machine Learning は、機械学習プロジェクトを成功させ、セキュリティを強化するために不可欠な組織制御を提供します。
Azure Machine Learning の監視 Azure Machine Learning のコストを計画および管理する
Phil は、Azure ML がデータ サイエンス チームと運用チームをサポートするだけでなく、自分の責任を果たすために必要なエンタープライズ レベルのガバナンス機能も提供することに感謝しています。運用環境の内容を正確に確認できるだけでなく、監査、ロール ベースのアクセス制御、クォータ管理によって組織のコンプライアンスを確認することもできます。
Azure ML は、機械学習プロジェクトを成功させ、安全性を確保するために不可欠な組織的なコントロールを提供します。
Azure Machine Learning の監視 Azure Machine Learning のコストを計画および管理する
包括的なセキュリティとコンプライアンスの組み込み
-
Microsoft ではサイバーセキュリティの研究と開発に年間 USD 10 億を超える投資を行っています。
-
Microsoft には、データ セキュリティとプライバシーを専門とする 3,500 人を超えるセキュリティ エキスパートがいます。
-
Azure は、他のクラウド プロバイダーを上回る数の認定を受けています。包括的なリストをご確認ください。
Azure の無料アカウントを使用して作業を開始する
無料で始めましょう。$200 のクレジットを取得して 30 日間使用できます。クレジットを保持している間は、最も人気のあるサービスの多くを無料で利用でき、40 を超える他のサービスが常に無料です。
クレジットを受け取った後は、従量課金に移動して、同じ無料サービスを使用してビルドを続けてください。無料の月額料金分を超えて使用する場合にのみ、お支払いください。
12 か月経過後、40 を超えるサービスを常に無料で利用できます。そして今まで通り、月次の無料枠を超えて使用した分は、お支払いください。
機械学習の運用によって顧客がどのように価値を提供しているか確認する
FedEx
Bikram Virk 氏 (AI および機械学習担当製品マネージャー、FedEx)"Customers expect timely and accurate information on their packages and a data-based delivery experience. We're helping FedEx stay on the leading edge with Azure Machine Learning, and we're building expertise for future projects."
BRF
BRF、テクノロジ エグゼクティブ マネージャー、Alexandre Biazin 氏"We're scaling with automated machine learning in Azure and MLOps capabilities in Azure Machine Learning so that our 15 analysts can focus on more strategic tasks instead of the mechanics of merging spreadsheets and running analyses."
ネスレ
Ignasi Paredes-Oliva 氏 (リード データ サイエンティスト、Nestlé Global Security Operations Center)"MLOps is at the core of our product. Because of its reproducible ML pipelines, ...registered models, and automatic model scoring, we're definitely detecting things that we missed before. Which, in terms of risk management, is really, really important."
ペプシコ
Michael Cleavinger 氏 (ショッパー インサイト データ サイエンスおよびアドバンスト アナリティクス担当シニア ディレクター、PepsiCo)"We've used the MLOps capabilities in Azure Machine Learning to simplify the whole machine learning process. That allows us to focus more on data science and let Azure Machine Learning take care of end-to-end operationalization."
