概觀
適用於 ML 工程師、AI 開發人員與平台架構設計師的受控 Ray 平台
- 從多模態資料策展與模型訓練,到正式環境部署——使用單一且整合的 Python 執行階段,在資料處理、嵌入、訓練與推論之間建構統一的 AI 應用程式。Azure 上的 Anyscale 在 AKS 上提供全受控 Ray 執行階段,具備自動叢集佈建、自動調整、自動排程與內建容錯能力。
- Azure 上的 Anyscale 提供正式環境等級的叢集協調與工作佇列管理,協助您在分散式 AI 工作負載中將 GPU 使用率最大化。在 AKS 上使用全受控 Ray 生命週期來建置應用程式,並以優先順序感知排程和 Ray 專家支援,確保在大規模環境中可靠且高效能運作。
- 在您的帳戶中執行 AI,並整合 Azure 資料、運算、治理與計費。Azure 上的 Anyscale 與企業中已部署的 Azure 安全性、原則與身分識別模式整合在一起 (包括 Entra/RBAC 與私人網路建構),同時在 AKS 上大規模執行 Ray 工作負載。
使用案例
探索 Azure 上的 Anyscale
多模態資料準備
建置並執行可擴展的管線,使用 Ray on Anyscale 整理與準備多模態資料集,以進行基礎模型訓練。
分散式訓練 & 微調
使用您選擇的 ML 架構搭配 Ray on Anyscale,將訓練規模從一台 GPU 擴展到數千台 GPU。
複合式 AI 服務與推斷
使用 Ray on Anyscale 在正式環境中部署並協調複雜的 AI 應用程式。
內嵌產生
使用 Ray on Anyscale,透過整合式 CPU 前處理與 GPU 推論,建置高效且可擴展的嵌入管線。
LLM 的增強式學習
使用 Ray 將 RL 後訓練規模從單一節點擴展到數千台 GPU;Ray 也是 veRL、skyRL 等工具的引擎。
實體 AI 模擬
使用 Ray on Anyscale 擴展分散式模擬,跨越數千個並行環境,產生自駕與實體 AI 模型所需的訓練資料與推出。
產業案例
了解 Azure 上的 Anyscale 如何支援您的 Python AI 生命週期
感知 & 自主 AI 管線
在 LIDAR、感測器、影像與影片資料上訓練並部署多模態 AI,為自駕車、實體機器人與即時控制系統提供動力。
即時排序與個人化
跨文字、影像與行為資料執行推薦、排序與需求管線,以大規模推動轉換和個人化。
低延遲風險模型
以速度與可靠性,在序列與嵌入資料上建置並擴展詐騙偵測、信用評分與預測模型。
產生、搜尋與審核
為搜尋、生成式 AI 功能與內容審查提供批次推論與訓練管線,涵蓋文字、影像、音訊與影片資料。
訓練、模擬 & 分子推斷
在序列、結構與影像資料上訓練並微調蛋白質摺疊與分子設計模型 (AlphaFold、Boltz、RFDiffusion)。
閱讀我們的公告部落格文章
Azure 上的 Anyscale 將 Ray 的分散式執行能力與 Azure Kubernetes Service 結合,打造專為現代大型 AI 系統設計的引擎。
協助打造下一代 AI 的客戶
Azure 上的 Anyscale 協助 AI 團隊從單機實驗,邁向跨數百或數千個 CPU 與 GPU 執行的正式環境系統。
-
Xoople 以行星尺度 AI 建構地球的系統記錄
"使用 Azure 上的 Anyscale,Xoople 能夠可靠地執行大規模分散式 AI 工作負載,處理行星尺度的衛星影像,將複雜的光譜資料轉化為可供決策的智慧。」 - Xoople,工程副總裁,Milos Colic -
Wayve 重新定義自駕遊戲規則
"Wayve 與 Microsoft 建立了深厚的合作夥伴關係,重點在於擴展具身 AI 及其背後的基礎結構。隨著 Wayve 的 AI 平台與資料作業持續成長,Azure 已成為其大規模運算與 ML 技術堆疊的重要部分。」 - Wayve AI,工程副總裁,Girish Venkataramani -
Anyscale 將 Ray 的強大功能帶到 Azure
"在 Anyscale,我們正在圍繞 Ray 建立一家公司。Ray 是用來擴展 Python 與 AI 工作負載的開放原始碼分散式運算引擎。Anyscale 為我們帶來的是位於上層的正式環境:效能強化的執行階段、開發人員工具與受控營運,讓團隊能專注於建置。而現在,這一切都以 Azure 原生方式提供,並在 AKS 上具備企業就緒能力。」- Anyscale 共同創辦人 Robert Nishihara