概述
面向 ML 工程师、AI 开发人员和平台架构师的托管 Ray 平台
- 从多模态数据整理和模型训练到生产部署 - 使用单一统一的 Python 运行时,跨数据处理、嵌入、训练和推理构建统一的 AI 应用。Azure 上的 Anyscale 在 AKS 上提供完全托管的 Ray 运行时,并具备自动集群预配、自动缩放、调度和内置故障转移能力。
- Azure 上的 Anyscale 提供生产级集群编排和作业队列管理,最大化分布式 AI 工作负载的 GPU 利用率。在 AKS 上使用完全托管的 Ray 生命周期构建应用,并通过感知优先级的调度和 Ray 专家支持,确保可靠、高性能的大规模操作。
- 使用集成的 Azure 数据、计算、治理和计费功能在你的帐户中运行 AI。Azure 上的 Anyscale 与企业中已部署的 Azure 安全性、策略和标识模式集成(包括 Entra/RBAC 和专用网络构造),同时在 AKS 上大规模运行 Ray 工作负载。
用例
探索 Azure 上的 Anyscale
多模态数据准备
构建并运行可扩展的管道,以整理和准备多模态数据集,支持使用 Anyscale 上的 Ray 进行基础模型训练。
分布式训练 & 微调
借助 Anyscale 上的 Ray,使用你选择的 ML 框架将训练从 1 个 GPU 扩展到数千个 GPU。
复合 AI 服务和推理
借助 Anyscale 上的 Ray,在生产环境中部署并编排复杂的 AI 应用。
嵌入生成
使用统一的 CPU 预处理和 GPU 推理,借助 Anyscale 上的 Ray 构建高效、可扩展的嵌入管道。
针对 LLM 的强化学习
借助 Ray(veRL、skyRL 等的引擎),将 RL 后训练从单节点扩展到数千个 GPU。
物理 AI 模拟
借助 Anyscale 上的 Ray,将分布式模拟扩展到数千个并发环境,生成自主控制和物理 AI 模型所需的训练数据和 rollout,并借助 Anyscale 上的 Ray 实现。
行业场景
了解 Azure 上的 Anyscale 如何驱动你的 Python AI 生命周期
感知 & 自主 AI 管道
跨 LIDAR、传感器、图像和视频数据训练并部署多模态 AI,为自动驾驶汽车、物理机器人和实时控制系统提供支持。
实时排序和个性化
跨文本、图像和行为数据运行推荐、排序和需求管道,以大规模提升转化率和个性化。
低延迟风险建模
基于序列和嵌入数据,快速且可靠地构建和扩展欺诈检测、信用评分和预测模型。
生成、搜索和审核
为搜索、生成式 AI 功能和内容审核提供批量推理和训练管道,覆盖文本、图像、音频和视频数据。
训练、模拟 & 分子推理
跨序列、结构和成像数据训练并微调蛋白质折叠和分子设计模型(AlphaFold、Boltz 和 RFDiffusion)。
阅读我们的公告博客
Azure 上的 Anyscale 将 Ray 的分布式执行能力与 Azure Kubernetes 服务结合,打造专为现代化、大规模 AI 系统设计的引擎。
赋能构建下一代 AI 的客户
Azure 上的 Anyscale 可帮助 AI 团队从单机实验迈向在数百或数千个 CPU 和 GPU 上运行的生产级系统。
-
Xoople 以行星级 AI 构建地球系统记录
"借助 Azure 上的 Anyscale,Xoople 可以可靠地在行星级规模的卫星图像上运行大规模分布式 AI 工作负载,将复杂的光谱数据转化为可直接用于决策的智能。” - Xoople 工程副总裁 Milos Colic -
Wayve 重写自动驾驶规则手册
"Wayve 和 Microsoft 建立了深度合作伙伴关系,专注于扩展具身 AI 及其背后的基础设施。随着 Wayve 的 AI 平台和数据运营不断增长,Azure 已成为其大规模计算和 ML 技术栈的核心组成部分。” - Wayve AI 工程副总裁 Girish Venkataramani -
Anyscale 将 Ray 的强大功能带到 Azure
"在 Anyscale,我们正围绕 Ray 打造一家公司。Ray 是用于扩展 python 和 AI 工作负载的开源分布式计算引擎。Anyscale 为我们带来的是其领先的生产层:增强性能的运行时、开发人员工具和托管运维,让团队专注于构建。现在,所有这些都以 Azure 原生方式交付,并在 AKS 上具备企业级就绪能力。”- Anyscale 联合创始人 Robert Nishihara