Kubeflow ile AKS'ye makine öğrenmesi modelleri dağıtma

Azure Blob Storage
Azure Container Registry
Azure Kubernetes Service (AKS)

Çözüm fikirleri

Bu makale bir çözüm fikridir. İçeriği olası kullanım örnekleri, alternatif hizmetler, uygulama konuları veya fiyatlandırma yönergeleri gibi daha fazla bilgiyle genişletmemizi isterseniz GitHub geri bildirimi sağlayarak bize bildirin.

Bu makalede Azure Kubernetes Service (AKS) üzerinde gerçek zamanlı çıkarım için bir çözüm sunulur.

Mimari

Architecture diagram that shows how machine learning models are deployed to Azure Kubernetes Services (AKS).

Bu mimarinin bir Visio dosyasını indirin.

Veri akışı

  1. Makine öğrenmesi modeli bir kapsayıcıya paketlenip Azure Container Registry'de yayımlanır.
  2. Azure Blob Depolama eğitim veri kümelerini ve eğitilen modeli barındırıyor.
  3. Kubeflow, parametre sunucuları ve çalışan düğümleri de dahil olmak üzere eğitim işlerini AKS'ye dağıtmak için kullanılır.
  4. Kubeflow, bir üretim modelini kullanılabilir hale getirmek için kullanılır. Bu adım test, denetim ve üretim genelinde tutarlı bir ortamı teşvik eder.
  5. AKS, GPU özellikli VM'leri destekler.
  6. Geliştiriciler, AKS kümesinde çalışan modeli sorgulamak için özellikler oluşturur.

Components

  • Blob Depolama, Azure Depolama'nin bir parçası olan bir hizmettir. Blob Depolama, büyük miktarlarda yapılandırılmamış veri için iyileştirilmiş bulut nesne depolaması sunar.
  • Container Registry kapsayıcı görüntülerini derler, depolar ve yönetir ve kapsayıcılı makine öğrenmesi modellerini depolayabilir.
  • AKS yüksek oranda kullanılabilir, güvenli ve tam olarak yönetilen bir Kubernetes hizmetidir. AKS, kapsayıcılı uygulamaları dağıtmayı ve yönetmeyi kolaylaştırır.
  • Machine Learning, makine öğrenmesi modellerini eğitmek, dağıtmak, otomatikleştirmek, yönetmek ve izlemek için kullanabileceğiniz bulut tabanlı bir ortamdır. Modelleri gelecekteki davranışları, sonuçları ve eğilimleri tahmin etmek için kullanabilirsiniz.

Senaryo ayrıntıları

AKS, makine öğrenmesi modellerinizin yüksek ölçekli üretim dağıtımlarına ihtiyacınız olduğunda kullanışlıdır. Yüksek ölçekli dağıtım hızlı yanıt süresi, dağıtılan hizmetin otomatik ölçeklendirmesi ve günlüğe kaydetmeyi içerir. Daha fazla bilgi için bkz . Azure Kubernetes Service kümesine model dağıtma.

Bu çözüm, AKS'ye dağıtımı yönetmek için Kubeflow kullanır. Makine öğrenmesi modelleri, GPU özellikli sanal makineler (VM' ler) tarafından yedeklenen AKS kümelerinde çalışır.

Olası kullanım örnekleri

Bu çözüm, makine öğrenmesi için AKS ve GPU özellikli VM'leri kullanan senaryolar için geçerlidir. Örnekler şunları içerir:

  • Görüntü sınıflandırma sistemleri.
  • Doğal dil işleme algoritmaları.
  • Tahmine dayalı bakım sistemleri.

Sonraki adımlar

Yapay zeka (AI) - Mimariye genel bakış