ÜBERSICHT
Eine verwaltete Ray-Plattform für ML-Engineers, KI-Entwickelnde und Plattformarchitektinnen und -architekten
- Von der Kuratierung multimodaler Daten und dem Modelltraining bis zur Produktionsbereitstellung – erstellen Sie einheitliche KI-Anwendungen über Datenverarbeitung, Embeddings, Training und Inferenz hinweg mit einer einzigen, einheitlichen Python-Runtime. Anyscale in Azure bietet eine vollständig verwaltete Ray-Runtime auf AKS mit automatischer Clusterbereitstellung, automatischer Skalierung, Planung und integrierter Fehlerresilienz.
- Anyscale in Azure bietet Orchestrierung auf Produktionsniveau für Cluster und die Job-Warteschlangenverwaltung, damit GPU-Auslastung über verteilte KI-Workloads hinweg maximiert wird. Erstellen Sie Ihre Anwendungen mit einem vollständig verwalteten Ray-Lebenszyklus auf AKS mit prioritätsbewusster Planung und Ray-Expertensupport, damit der Betrieb in großem Maßstab zuverlässig und leistungsstark bleibt.
- Führen Sie KI in Ihrem Konto mit integrierten Azure-Daten, Compute, Governance und Abrechnung aus. Anyscale in Azure ist mit Azure-Sicherheits-, Richtlinien- und Identitätsmustern integriert, die bereits unternehmensweit bereitgestellt sind, einschließlich Entra/RBAC und privater Netzwerkkonstrukte, während Ray-Workloads in großem Maßstab auf AKS ausgeführt werden.
Anwendungsfälle
Anyscale in Azure erkunden
Multimodale Datenaufbereitung
Erstellen und betreiben Sie skalierbare Pipelines, um multimodale Datasets für das Training von Foundation-Modellen mit Ray auf Anyscale zu kuratieren und aufzubereiten.
Verteiltes Training & Feinabstimmung
Skalieren Sie das Training mit Ihrem bevorzugten ML-Framework mit Ray auf Anyscale von einem bis zu Tausenden von GPUs.
Verbund-KI-Bereitstellung und Inferenz
Stellen Sie komplexe KI-Anwendungen in der Produktion bereit und orchestrieren Sie sie mit Ray auf Anyscale.
Einbettungsgenerierung
Erstellen Sie effiziente, skalierbare Embedding-Pipelines mit einheitlicher CPU-Vorverarbeitung und GPU-Inferenz mit Ray auf Anyscale.
Vertiefendes Lernen für LLMS
Skalieren Sie RL nach dem Training von einem einzelnen Knoten auf Tausende von GPUs mit Ray, der Engine für veRL, skyRL und mehr.
Physische KI-Simulation
Skalieren Sie verteilte Simulationen über Tausende gleichzeitiger Umgebungen, um die Trainingsdaten und Rollouts zu erzeugen, die autonome und physische KI-Modelle mit Ray auf Anyscale benötigen.
Brancheszenarien
Erfahren Sie, wie Anyscale auf Azure Ihren Python-KI-Lebenszyklus antreibt
Wahrnehmung & autonome KI-Pipelines
Trainieren und stellen Sie multimodale KI über LIDAR-, Sensor-, Bild- und Videodaten hinweg bereit, um autonome Fahrzeuge, physische Roboter und Echtzeit-Steuerungssysteme zu unterstützen.
Bewertung und Personalisierung in Echtzeit
Führen Sie Empfehlungs-, Bewertungs- und Nachfrage-Pipelines über Text-, Bild- und Verhaltensdaten hinweg aus, um Conversion und Personalisierung in großem Maßstab voranzutreiben.
Latenzarme Risikomodellierung
Entwickeln und skalieren Sie Betrugserkennung, Kreditbewertung und Prognosemodelle mit Sequenz- und Embedding-Daten – schnell und zuverlässig.
Generierung, Suche und Moderation
Unterstützen Sie Batch-Inferenz- und Trainingspipelines für Suche, generative KI-Funktionen und Inhaltsmoderation über Text-, Bild-, Audio- und Videodaten hinweg.
Training, Simulation & molekulare Inferenz
Trainieren und optimieren Sie Modelle für Protein-Faltung und Moleküldesign (AlphaFold, Boltz, RFDiffusion) über Sequenz-, Struktur- und Bilddaten hinweg.
Lesen Sie unseren Ankündigungsblog
Anyscale in Azure bringt die Power der verteilten Ausführung von Ray zusammen mit Azure Kubernetes Service, um eine speziell entwickelte Engine für moderne KI-Systeme in großem Maßstab zu schaffen.
Unterstützung für Kundinnen und Kunden, die die nächste Generation von KI entwickeln
Anyscale in Azure hilft KI-Teams, von einem Experiment auf einem einzelnen Computer zu produktionsreifen Systemen zu wechseln, die auf Hunderten oder Tausenden von CPUs und GPUs laufen.
-
Xoople baut mit KI im planetaren Maßstab die System of Record der Erde
"Mit Anyscale auf Azure kann Xoople hochverteilte KI-Workloads zuverlässig über Satellitenbilder in planetarem Maßstab ausführen und komplexe Spektraldaten in entscheidungsreife Erkenntnisse verwandeln.“ – Milos Colic, VP of Engineering, Xoople -
Wayve schreibt das Handbuch für selbstfahrende Fahrzeuge neu
"Wayve und Microsoft pflegen eine enge Partnerschaft mit dem Fokus auf die Skalierung von Embodied AI und der Infrastruktur dahinter. Mit dem Wachstum der KI-Plattform und der Datenoperationen von Wayve ist Azure zu einem zentralen Bestandteil des Compute- und ML-Stacks für den großen Maßstab geworden.“ – Girish Venkataramani, VP of Engineering, Wayve AI -
Anyscale bringt die Leistung von Ray zu Azure
"Bei Anyscale bauen wir ein Unternehmen rund um Ray auf. Ray ist die Open-Source-Compute-Engine für verteilte Systeme, um Python- und KI-Workloads zu skalieren. Was wir mit Anyscale liefern, ist die Produktionsschicht darüber: eine leistungsoptimierte Runtime, Entwicklertools und verwaltete Abläufe, damit sich Teams auf das Entwickeln konzentrieren können. Und jetzt wird dies alles auf native Azure-Weise mit Unternehmensbereitschaft in AKS bereitgestellt.” – Robert Nishihara, Mitgründer, Anyscale
RESSOURCEN