Vooraf gebouwde Docker-installatiekopieën voor deductie

  • Artikel

Vooraf gemaakte Docker-containerinstallatiekopieën voor deductie worden gebruikt bij het implementeren van een model met Azure Machine Learning. De installatiekopieën zijn vooraf samengesteld met populaire machine learning-frameworks en Python-pakketten. U kunt de pakketten ook uitbreiden om andere pakketten toe te voegen met behulp van een van de volgende methoden:

Waarom moet ik vooraf gemaakte installatiekopieën gebruiken?

  • Vermindert de latentie van modelimplementatie
  • Verbetert het succespercentage van de modelimplementatie
  • Vermijd onnodige build van installatiekopieën tijdens de modelimplementatie
  • Bevat alleen de vereiste afhankelijkheden en toegang rechtstreeks in de installatiekopieën/container

Lijst met vooraf gemaakte Docker-installatiekopieën voor deductie

Belangrijk

De lijst in de volgende tabel bevat alleen de Docker-installatiekopieën voor deductie die momenteel door Azure Machine Learning worden ondersteund.

  • Alle Docker-installatiekopieën worden uitgevoerd als niet-hoofdgebruiker.
  • U wordt aangeraden de latest tag voor Docker-installatiekopieën te gebruiken. Vooraf gemaakte Docker-installatiekopieën voor deductie worden gepubliceerd naar het Microsoft-containerregister (MCR). Zie de MCR GitHub-opslagplaats voor informatie over het opvragen van de lijst met beschikbare tags.
  • Als u een specifieke tag wilt gebruiken voor een docker-installatiekopie van deductie, ondersteunt Azure Machine Learning tags die variëren van latest tot zes maanden ouder zijn dan latest.

Minimale basisinstallatiekopieën deductie

Framework-versie CPU/GPU Vooraf geïnstalleerde pakketten MCR-pad
N.v.t. CPU N.v.t. mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest
N.v.t. GPU N.v.t. mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest
N.v.t. CPU N.v.t. mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
N.v.t. GPU N.v.t. mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest

Gerelateerde inhoud