Pomysły dotyczące rozwiązań
Ten artykuł jest pomysłem na rozwiązanie. Jeśli chcesz, abyśmy rozszerzyli zawartość o więcej informacji, takich jak potencjalne przypadki użycia, alternatywne usługi, zagadnienia dotyczące implementacji lub wskazówki dotyczące cen, daj nam znać, przekazując opinię w usłudze GitHub.
W tym artykule przedstawiono rozwiązanie do wnioskowania w czasie rzeczywistym w usłudze Azure Kubernetes Service (AKS).
Architektura
Pobierz plik programu Visio z tą architekturą.
Przepływ danych
- Model uczenia maszynowego jest pakowany do kontenera i publikowany w usłudze Azure Container Registry.
- Usługa Azure Blob Storage hostuje zestawy danych szkoleniowych i wytrenowany model.
- Platforma Kubeflow służy do wdrażania zadań szkoleniowych w usłudze AKS, w tym serwerów parametrów i węzłów roboczych.
- Platforma Kubeflow służy do udostępniania modelu produkcyjnego. Ten krok promuje spójne środowisko między testowaniem, kontrolą i produkcją.
- Usługa AKS obsługuje maszyny wirtualne z obsługą procesora GPU.
- Deweloperzy tworzą funkcje umożliwiające wykonywanie zapytań dotyczących modelu działającego w klastrze usługi AKS.
Elementy
- Blob Storage to usługa, która jest częścią usługi Azure Storage. Usługa Blob Storage oferuje zoptymalizowany magazyn obiektów w chmurze dla dużych ilości danych bez struktury.
- Usługa Container Registry tworzy, przechowuje obrazy kontenerów i zarządza nimi oraz może przechowywać konteneryzowane modele uczenia maszynowego.
- Usługa AKS jest usługą Kubernetes o wysokiej dostępności, bezpiecznym i w pełni zarządzanym. Usługa AKS ułatwia wdrażanie konteneryzowanych aplikacji i zarządzanie nimi.
- Machine Edukacja to środowisko oparte na chmurze, którego można używać do trenowania, wdrażania, automatyzowania i śledzenia modeli uczenia maszynowego oraz zarządzania nimi. Modele umożliwiają prognozowanie przyszłych zachowań, wyników i trendów.
Szczegóły scenariusza
Usługa AKS jest przydatna, gdy potrzebujesz wdrożeń produkcyjnych na dużą skalę modeli uczenia maszynowego. Wdrożenie na dużą skalę obejmuje krótki czas odpowiedzi, skalowanie automatyczne wdrożonej usługi i rejestrowanie. Aby uzyskać więcej informacji, zobacz Wdrażanie modelu w klastrze usługi Azure Kubernetes Service.
To rozwiązanie używa rozwiązania Kubeflow do zarządzania wdrożeniem w usłudze AKS. Modele uczenia maszynowego działają w klastrach usługi AKS, które są wspierane przez maszyny wirtualne z obsługą procesora GPU.
Potencjalne przypadki użycia
To rozwiązanie dotyczy scenariuszy korzystających z usługi AKS i maszyn wirtualnych z obsługą procesora GPU na potrzeby uczenia maszynowego. Oto kilka przykładów:
- Systemy klasyfikacji obrazów.
- Algorytmy przetwarzania języka naturalnego.
- Systemy konserwacji predykcyjnej.
Następne kroki
- Co to jest Azure Machine Learning?
- Azure Kubernetes Service (AKS)
- Wdrażanie modelu w klastrze usługi Azure Kubernetes Service
- Platforma Kubeflow na platformie Azure
- Co to jest usługa Azure Blob Storage?
- Wprowadzenie do rejestrów kontenerów na platformie Azure