InferenceConfig Osztály

  • Referencia

Az üzembe helyezéshez használt egyéni környezet konfigurációs beállításait jelöli.

A következtetési konfiguráció az üzembe helyezéssel Model kapcsolatos műveletek bemeneti paramétere:

Inicializálja a konfigurációs objektumot.

Öröklődés
builtins.object
InferenceConfig

Konstruktor

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Paraméterek

entry_script
str
Kötelező

A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.

runtime
str
alapértelmezett érték: None

A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".

conda_file
str
alapértelmezett érték: None

A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.

extra_docker_file_steps
str
alapértelmezett érték: None

A rendszerkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.

source_directory
str
alapértelmezett érték: None

A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.

enable_gpu
bool
alapértelmezett érték: None

Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. Alapértelmezés szerint Hamis.

description
str
alapértelmezett érték: None

Leírás a kép megírásához.

base_image
str
alapértelmezett érték: None

Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.

base_image_registry
ContainerRegistry
alapértelmezett érték: None

Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.

cuda_version
str
alapértelmezett érték: None

A GPU-támogatást igénylő rendszerképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0. Ha enable_gpu be van állítva, ez az alapértelmezett érték: "9.1".

environment
Environment
alapértelmezett érték: None

Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni.

Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a entry_script, source_directorya és descriptiona .

entry_script
str
Kötelező

A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.

runtime
str
Kötelező

A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".

conda_file
str
Kötelező

A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.

extra_docker_file_steps
str
Kötelező

A rendszerkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.

source_directory
str
Kötelező

A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.

enable_gpu
bool
Kötelező

Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. Alapértelmezés szerint Hamis.

description
str
Kötelező

Leírás a kép megírásához.

base_image
str
Kötelező

Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.

base_image_registry
ContainerRegistry
Kötelező

Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.

cuda_version
str
Kötelező

A GPU-támogatást igénylő rendszerképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0. Ha enable_gpu be van állítva, ez az alapértelmezett érték: "9.1".

environment
Environment
Kötelező

Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni.

Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a entry_script, source_directorya és descriptiona .

Megjegyzések

Az alábbi minta bemutatja, hogyan hozhat létre egy InferenceConfig objektumot, és hogyan helyezhet üzembe egy modellt.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Változók

entry_script
str

A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.

runtime
str

A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".

conda_file
str

A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.

extra_docker_file_steps
str

A lemezkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.

source_directory
str

A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.

enable_gpu
bool

Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service.

azureml.core.model.InferenceConfig.description

Leírás a kép megírásához.

base_image
str

Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.

base_image_registry
ContainerRegistry

Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.

cuda_version
str

A GPU-támogatást igénylő lemezképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0. Ha enable_gpu be van állítva, az alapértelmezett érték a "9.1".

azureml.core.model.InferenceConfig.environment

Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni.

Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a entry_script, source_directorya és a description.

Metódusok

build_create_payload

Hozza létre a tárolórendszerkép létrehozási hasznos adatait.
build_profile_payload

Hozza létre a modellcsomag profilkészítési hasznos adatait.
validate_configuration

Ellenőrizze, hogy a megadott konfigurációs értékek érvényesek-e.

Ha az ellenőrzés sikertelen, akkor egy értéket WebserviceException ad meg.
validation_script_content

Ellenőrizze, hogy a pontszámszkript szintaxisa érvényes-e az ast.parse paraméterrel.

Ha az ellenőrzés sikertelen, akkor egy értéket UserErrorException ad meg.

build_create_payload

Hozza létre a tárolórendszerkép létrehozási hasznos adatait.

build_create_payload(workspace, name, model_ids)

Paraméterek

workspace
Workspace
Kötelező

A rendszerkép létrehozásához használt munkaterület-objektum.

name
str
Kötelező

A kép neve.

model_ids
list[str]
Kötelező

A rendszerképbe csomagolandó modellazonosítók listája.

Válaszok

A tárolórendszerkép létrehozásának hasznos adatai.

Visszatérési típus

dict

Kivételek

WebserviceException

build_profile_payload

Hozza létre a modellcsomag profilkészítési hasznos adatait.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Paraméterek

profile_name
str
Kötelező

A profilkészítési futtatás neve.

input_data
str
alapértelmezett érték: None

A profilkészítés bemeneti adatai.

workspace
Workspace
alapértelmezett érték: None

Egy munkaterület-objektum, amelyben profilt szeretne létrehozni a modellről.

models
list[Model]
alapértelmezett érték: None

Modellobjektumok listája. Lehet egy üres lista.

dataset_id
str
alapértelmezett érték: None

A profilkészítési futtatáshoz bemeneti adatokat tartalmazó adatkészlethez társított azonosító.

container_resource_requirements
ContainerResourceRequirements
alapértelmezett érték: None

tárolóerőforrás-követelmények arra a legnagyobb példányra, amelyre a modellt telepíteni kívánja

description
str
alapértelmezett érték: None

A profilkészítési futtatáshoz társítandó leírás.

Válaszok

Modellprofil hasznos adatai

Visszatérési típus

dict

Kivételek

WebserviceException

validate_configuration

Ellenőrizze, hogy a megadott konfigurációs értékek érvényesek-e.

Ha az ellenőrzés sikertelen, akkor egy értéket WebserviceException ad meg.

validate_configuration()

Kivételek

WebserviceException

validation_script_content

Ellenőrizze, hogy a pontszámszkript szintaxisa érvényes-e az ast.parse paraméterrel.

Ha az ellenőrzés sikertelen, akkor egy értéket UserErrorException ad meg.

validation_script_content()

Kivételek

UserErrorException