概要
ML エンジニア、AI 開発者、プラットフォーム アーキテクト向けのマネージド Ray プラットフォーム
- マルチモーダル データ キュレーションとモデル トレーニングから運用環境へのデプロイまで、データ処理、埋め込み、トレーニング、推論全体で統合された AI アプリケーションを、単一の統合 Python ランタイムを使用して構築できます。Azure 上の Anyscale は、自動のクラスター プロビジョニング、自動スケーリング、スケジュール設定、組み込みのフォールト トレランスを備えた、フル マネージドの Ray ランタイムを AKS で提供します。
- Azure 上の Anyscale は、運用レベルのクラスター オーケストレーションとジョブ キュー管理が提供し、分散 AI ワークロード全体で GPU 使用率が最大化されます。優先度に対応したスケジュール設定と Ray エキスパート サポートにより、AKS でフル マネージドの Ray ライフサイクルでアプリケーションを構築し、信頼性の高い高パフォーマンスの運用を大規模に実現します。
- 統合された Azure データ、コンピューティング、ガバナンス、請求を使用して、ご自身のアカウントで AI を実行します。Azure 上の Anyscale は、エンタープライズ全体に既にデプロイされている Azure セキュリティ、ポリシー、ID パターン (Entra/RBAC やプライベート ネットワーク構造を含む) と統合しながら、AKS で大規模な Ray ワークロードを実行します。
ユース ケース
Azure 上の Anyscale を探索する
マルチモーダル データの準備
スケーラブルなパイプラインを構築して実行し、Ray on Anyscale を使用した基礎モデル トレーニング用のマルチモーダル データセットをキュレーションして準備します。
分散トレーニング & ファインチューニング
Ray on Anyscale で、お好みの ML フレームワークを使用して、トレーニングを 1 から数千の GPU にスケーリングします。
複合 AI の提供と推論
Ray on Anyscale を使用して、複雑な AI アプリケーションを運用環境にデプロイしてオーケストレーションします。
埋め込みの生成
Ray on Anyscale で統一された CPU 前処理と GPU 推論を使用して、効率的でスケーラブルな埋め込みパイプラインを構築します。
LLM の強化学習
veRL、skyRL などのエンジンである Ray を使用して、トレーニング後の RL を 1 つのノードから数千の GPU にスケーリングします。
物理 AI シミュレーション
Ray on Anyscale を使用して、何千もの並行環境にわたって分散シミュレーションをスケーリングし、自律性と物理 AI モデルが必要とするトレーニング データとロールアウトを生成します。
業界のシナリオ
Azure 上の Anyscale が Python AI ライフサイクルをどのように強化するか説明します
認識 & 自律 AI パイプライン
自動運転車、物理ロボット、リアルタイム制御システムを支えるために、LIDAR、センサー、画像、ビデオ データ全体でマルチモーダル AI をトレーニングしてデプロイします。
リアルタイムのランク付けとパーソナル化
テキスト、画像、および行動データ全体でおすすめ、ランク付け、需要のパイプラインを実行して、コンバージョンとパーソナル化を大規模に促進します。
低遅延のリスク モデリング
速度と信頼性をもって、不正検出、クレジット スコアリング、予測モデルをシーケンスと埋め込みデータに構築し、スケーリングします。
生成、検索、モデレーション
テキスト、画像、オーディオ、およびビデオ データ全体の検索、生成 AI 機能、コンテンツ モデレーションのための、バッチ推論とトレーニング パイプラインを強化します。
トレーニング、シミュレーション & 分子推論
シーケンス、構造、およびイメージング データ全体で、タンパク質折りたたみモデルや分子設計モデル (AlphaFold、Boltz、RFDifserv) をトレーニングしてファインチューニングします。
お知らせブログを読む
Azure 上の Anyscale は、Ray の分散実行の機能と Azure Kubernetes Service を組み合わせて、最新の大規模な AI システム専用のエンジンを作成します。
次世代 AI を構築するお客様を支援する
Azure 上の Anyscale は、AI チームが単一マシンの実験から、数百または数千の CPU と GPU で実行されている運用レベルのシステムに移行するのに役立ちます。
-
Xoople が地球の記録システムを地球規模の AI で構築
"Azure 上の Anyscale を使用すると、Xoople は大規模な衛星映像で超分散型の AI ワークロードを確実に実行でき、複雑なスペクトル データを意思決定に使えるインテリジェンスに変換できます。” - Milos Colic 氏、VP of Engineering、Xoople -
Wayve が自動運転のプレイブックを書き換える
"Wayve と Microsoft は、エンボディド AI とその背後にあるインフラストラクチャのスケーリングに重点を置いた緊密なパートナーシップを結んでいます。Wayve の AI プラットフォームとデータ運用が拡大する中で、Azure は大規模なコンピューティングと ML スタックの中核を担うようになりました。” - Girish Venkataramani 氏、VP of Engineering、Wayve AI -
Anyscale は Ray の機能を Azure に提供
"Anyscale では、Ray を中心に会社を構築しています。Ray は、Python と AI のワークロードをスケーリングするためのオープンソースの分散コンピューティング エンジンです。Anyscale は、パフォーマンスが向上したランタイム、開発者ツール、マネージド操作などの運用レイヤーを提供して、チームがビルドに集中し続けることを支援しています。そして今回、AKS でのエンタープライズ対応を行い、Azure ネイティブの方法で提供されるようになりました。” - Robert Nishihara 氏、Co-founder、Anyscale