Předem sestavené image Dockeru pro odvozování

  • Článek

Předem připravené image kontejneru Dockeru pro odvozování se používají při nasazování modelu pomocí služby Azure Machine Učení. Image jsou předem připravené s oblíbenými architekturami strojového učení a balíčky Pythonu. Balíčky můžete také rozšířit a přidat další balíčky pomocí jedné z následujících metod:

Proč mám používat předem připravené obrázky?

  • Snižuje latenci nasazení modelu.
  • Zlepšuje úspěšnost nasazení modelu.
  • Vyhněte se zbytečnému sestavování imagí během nasazování modelu.
  • Zahrnuje pouze požadované závislosti a přístup přímo v imagi nebo kontejneru.

Seznam předem připravených imagí Dockeru pro odvozování

Důležité

Seznam uvedený v následující tabulce obsahuje pouze odvozovací image Dockeru, které azure Machine Učení aktuálně podporuje.

  • Všechny image Dockeru běží jako uživatel, který není root.
  • Doporučujeme použít latest značku pro image Dockeru. Předem připravené image Dockeru pro odvozování se publikují do registru kontejneru Microsoftu (MCR). Informace o tom, jak dotazovat seznam dostupných značek, najdete v úložišti GITHubu MCR.
  • Pokud chcete pro jakoukoli image Dockeru použít konkrétní značku, azure Machine Učení podporuje značky, které jsou od latestšesti měsíců starší než latest.

Odvozovat minimální základní image

Verze architektury CPU/GPU Předinstalované balíčky Cesta MCR
NA Procesor NA mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest
NA Procesor NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest

Související obsah