Modellen machine learning AKS implementeren met Kubeflow

Blob Storage
Container Registry
Kubernetes-service

Oplossingsidee

Als u wilt dat we dit artikel uitbreiden met meer informatie, zoals mogelijke use cases, alternatieve services, implementatieoverwegingen of prijsinformatie, laat het ons dan weten met GitHub Feedback!

Dit oplossingsidee gaat over realtime deferentie op Azure Kubernetes Service (AKS). Gebruik AKS wanneer u grootschalige productie-implementaties van uw machine learning nodig hebt. Grootschalig betekent mogelijkheden zoals snelle reactietijd, automatisch schalen van de geïmplementeerde service en logboekregistratie. Zie Deploy a model to an Azure Kubernetes Service cluster (Een model implementeren naar een cluster Azure Kubernetes Service informatie).

In deze oplossing wordt Kubeflow gebruikt om de implementatie naar AKS te beheren. Uw ML worden uitgevoerd op AKS-clusters die worden back-by GPU-VM's.

Architectuur van implementatie naar AKS

Architectuurdiagram: implementatie van machine learning modellen in Azure Kubernetes Services (AKS) Download een SVG van deze architectuur.

Gegevensstroom

  1. Pakket machine learning (ML) in een container en publiceer naar Azure Container Registry (ACR).
  2. Azure Blob Storage host trainingsgegevenssets en het getrainde model.
  3. Kubeflow gebruiken om trainingstaken te implementeren in Azure Kubernetes Services (AKS); gedistribueerde trainingstaken naar AKS omvatten parameterservers en werkknooppunten.
  4. Productiemodel bedienen met behulp van Kubeflow, een consistente omgeving promoten voor testen, controle en productie.
  5. AKS ondersteunt voor GPU ingeschakelde VM.
  6. Ontwikkelaars bouwen functies om query's uit te voeren op het model dat wordt uitgevoerd in een AKS-cluster.

Onderdelen

Volgende stappen

Zie andere Architecture Center-artikelen:

Productdocumentatie lezen: