InferenceConfig Osztály
- Öröklődés
-
builtins.objectInferenceConfig
Konstruktor
InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)
Paraméterek
- runtime
- str
A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".
- conda_file
- str
A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.
- extra_docker_file_steps
- str
A rendszerkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.
- source_directory
- str
A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.
- enable_gpu
- bool
Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. Alapértelmezés szerint Hamis.
- base_image
- str
Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.
- base_image_registry
- ContainerRegistry
Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.
- cuda_version
- str
A GPU-támogatást igénylő rendszerképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0.
Ha enable_gpu
be van állítva, ez az alapértelmezett érték: "9.1".
- environment
- Environment
Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni.
Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a entry_script
, source_directory
a és description
a .
- runtime
- str
A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".
- conda_file
- str
A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.
- extra_docker_file_steps
- str
A rendszerkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.
- source_directory
- str
A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.
- enable_gpu
- bool
Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. Alapértelmezés szerint Hamis.
- base_image
- str
Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.
- base_image_registry
- ContainerRegistry
Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.
- cuda_version
- str
A GPU-támogatást igénylő rendszerképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0.
Ha enable_gpu
be van állítva, ez az alapértelmezett érték: "9.1".
- environment
- Environment
Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni.
Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a entry_script
, source_directory
a és description
a .
Megjegyzések
Az alábbi minta bemutatja, hogyan hozhat létre egy InferenceConfig objektumot, és hogyan helyezhet üzembe egy modellt.
from azureml.core.model import InferenceConfig
from azureml.core.webservice import AciWebservice
service_name = 'my-custom-env-service'
inference_config = InferenceConfig(entry_script='score.py', environment=environment)
aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)
service = Model.deploy(workspace=ws,
name=service_name,
models=[model],
inference_config=inference_config,
deployment_config=aci_config,
overwrite=True)
service.wait_for_deployment(show_output=True)
Változók
- entry_script
- str
A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.
- runtime
- str
A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".
- conda_file
- str
A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.
- extra_docker_file_steps
- str
A lemezkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.
- source_directory
- str
A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.
- enable_gpu
- bool
Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service.
- azureml.core.model.InferenceConfig.description
Leírás a kép megírásához.
- base_image
- str
Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.
- base_image_registry
- ContainerRegistry
Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.
- cuda_version
- str
A GPU-támogatást igénylő lemezképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0.
Ha enable_gpu
be van állítva, az alapértelmezett érték a "9.1".
- azureml.core.model.InferenceConfig.environment
Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni.
Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a entry_script
, source_directory
a és a description
.
Metódusok
build_create_payload |
Hozza létre a tárolórendszerkép létrehozási hasznos adatait. |
build_profile_payload |
Hozza létre a modellcsomag profilkészítési hasznos adatait. |
validate_configuration |
Ellenőrizze, hogy a megadott konfigurációs értékek érvényesek-e. Ha az ellenőrzés sikertelen, akkor egy értéket WebserviceException ad meg. |
validation_script_content |
Ellenőrizze, hogy a pontszámszkript szintaxisa érvényes-e az ast.parse paraméterrel. Ha az ellenőrzés sikertelen, akkor egy értéket UserErrorException ad meg. |
build_create_payload
Hozza létre a tárolórendszerkép létrehozási hasznos adatait.
build_create_payload(workspace, name, model_ids)
Paraméterek
Válaszok
A tárolórendszerkép létrehozásának hasznos adatai.
Visszatérési típus
Kivételek
build_profile_payload
Hozza létre a modellcsomag profilkészítési hasznos adatait.
build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)
Paraméterek
- workspace
- Workspace
Egy munkaterület-objektum, amelyben profilt szeretne létrehozni a modellről.
- dataset_id
- str
A profilkészítési futtatáshoz bemeneti adatokat tartalmazó adatkészlethez társított azonosító.
- container_resource_requirements
- ContainerResourceRequirements
tárolóerőforrás-követelmények arra a legnagyobb példányra, amelyre a modellt telepíteni kívánja
Válaszok
Modellprofil hasznos adatai
Visszatérési típus
Kivételek
validate_configuration
Ellenőrizze, hogy a megadott konfigurációs értékek érvényesek-e.
Ha az ellenőrzés sikertelen, akkor egy értéket WebserviceException ad meg.
validate_configuration()
Kivételek
validation_script_content
Ellenőrizze, hogy a pontszámszkript szintaxisa érvényes-e az ast.parse paraméterrel.
Ha az ellenőrzés sikertelen, akkor egy értéket UserErrorException ad meg.
validation_script_content()
Kivételek
Visszajelzés
https://aka.ms/ContentUserFeedback.
Hamarosan elérhető: 2024-ben fokozatosan kivezetjük a GitHub-problémákat a tartalom visszajelzési mechanizmusaként, és lecseréljük egy új visszajelzési rendszerre. További információ:Visszajelzés küldése és megtekintése a következőhöz: