Pomysł na rozwiązanie
Jeśli chcesz, abyśmy rozszerzyli ten artykuł, aby uzyskać więcej informacji, takich jak potencjalne przypadki użycia, usługi alternatywne, zagadnienia dotyczące implementacji lub wskazówki dotyczące cen, daj nam znać za pomocą GitHub opinii!
To rozwiązanie dotyczy wnioskowania w czasie rzeczywistym w usłudze Azure Kubernetes Service (AKS).
Potencjalne przypadki użycia
Użyj usługi AKS, gdy potrzebujesz wdrożeń produkcyjnych modeli uczenia maszynowego na dużą skalę. Wysoka skala oznacza możliwości, takie jak szybki czas odpowiedzi, automatyczne skalowanie wdrożonej usługi i rejestrowanie. Aby uzyskać więcej informacji, zobacz Wdrażanie modelu w klastrze Azure Kubernetes Service.
W tym rozwiązaniu platforma Kubeflow służy do zarządzania wdrożeniem w usłudze AKS. Modele ML działają w klastrach usługi AKS wspieranych przez maszyny wirtualne z obsługą procesora GPU.
Architektura
Pobierz svG tej architektury.
Przepływ danych
- Tworzenie pakietu modelu uczenia maszynowego (ML) w kontenerze i publikowanie go w usłudze Azure Container Registry (ACR).
- Usługa Azure Blob Storage hostuje zestawy danych trenowania i wytrenowanego modelu.
- Wdrażanie zadania szkoleniowego w usłudze Azure Kubernetes Services (AKS) przy użyciu platformy Kubeflow; zadania trenowania rozproszonego do usługi AKS obejmują serwery parametrów i węzły procesu roboczego.
- Obsługa modelu produkcyjnego przy użyciu platformy Kubeflow, promowanie spójnego środowiska w środowisku testowym, kontrolnym i produkcyjnym.
- Usługa AKS obsługuje maszynę wirtualną z włączoną obsługą procesora GPU.
- Deweloperzy tworzą funkcje do wykonywania zapytań dotyczących modelu uruchomionego w klastrze usługi AKS.
Składniki
Następne kroki
Przeczytaj dokumentację produktu:
- Co to jest usługa Azure Machine Learning?
- Azure Kubernetes Service (AKS)
- Wdrażanie modelu w klastrze Azure Kubernetes Service
- Platforma Kubeflow na platformie Azure
Powiązane zasoby
Zobacz inne artykuły dotyczące Centrum architektury: