Wdrażanie modeli uczenia maszynowego w usłudze AKS przy użyciu rozwiązania Kubeflow

Blob Storage
Container Registry
Kubernetes Service

Pomysł na rozwiązanie

Jeśli chcesz, abyśmy rozszerzyli ten artykuł, aby uzyskać więcej informacji, takich jak potencjalne przypadki użycia, usługi alternatywne, zagadnienia dotyczące implementacji lub wskazówki dotyczące cen, daj nam znać za pomocą GitHub opinii!

To rozwiązanie dotyczy wnioskowania w czasie rzeczywistym w usłudze Azure Kubernetes Service (AKS).

Potencjalne przypadki użycia

Użyj usługi AKS, gdy potrzebujesz wdrożeń produkcyjnych modeli uczenia maszynowego na dużą skalę. Wysoka skala oznacza możliwości, takie jak szybki czas odpowiedzi, automatyczne skalowanie wdrożonej usługi i rejestrowanie. Aby uzyskać więcej informacji, zobacz Wdrażanie modelu w klastrze Azure Kubernetes Service.

W tym rozwiązaniu platforma Kubeflow służy do zarządzania wdrożeniem w usłudze AKS. Modele ML działają w klastrach usługi AKS wspieranych przez maszyny wirtualne z obsługą procesora GPU.

Architektura

Architecture diagram: deploying machine learning models to Azure Kubernetes Services (AKS)Pobierz svG tej architektury.

Przepływ danych

  1. Tworzenie pakietu modelu uczenia maszynowego (ML) w kontenerze i publikowanie go w usłudze Azure Container Registry (ACR).
  2. Usługa Azure Blob Storage hostuje zestawy danych trenowania i wytrenowanego modelu.
  3. Wdrażanie zadania szkoleniowego w usłudze Azure Kubernetes Services (AKS) przy użyciu platformy Kubeflow; zadania trenowania rozproszonego do usługi AKS obejmują serwery parametrów i węzły procesu roboczego.
  4. Obsługa modelu produkcyjnego przy użyciu platformy Kubeflow, promowanie spójnego środowiska w środowisku testowym, kontrolnym i produkcyjnym.
  5. Usługa AKS obsługuje maszynę wirtualną z włączoną obsługą procesora GPU.
  6. Deweloperzy tworzą funkcje do wykonywania zapytań dotyczących modelu uruchomionego w klastrze usługi AKS.

Składniki

Następne kroki

Przeczytaj dokumentację produktu:

Zobacz inne artykuły dotyczące Centrum architektury: