Folyamatok üzembe helyezése kötegelt végpontokkal

ÉRVÉNYES:Azure CLI ml-bővítmény v2 (aktuális)Python SDK azure-ai-ml v2 (aktuális)

A folyamatösszetevőket egy kötegvégponton helyezheti üzembe, így kényelmesen üzembe helyezheti őket az Azure Machine Tanulás. Ebből a cikkből megtudhatja, hogyan hozhat létre egy egyszerű folyamatot tartalmazó kötegelt üzembe helyezést. A következőket fogja elsajátítani:

• Folyamatösszetevő létrehozása és regisztrálása
• Batch-végpont létrehozása és folyamatösszetevő üzembe helyezése
• Az üzemelő példány tesztelése

A példa ismertetése

Ebben a példában egy egyszerű parancsfeladatból álló folyamatösszetevőt fogunk üzembe helyezni, amely a "hello world!" szöveget nyomtatja. Ez az összetevő nem igényel bemeneteket vagy kimeneteket, és ez a legegyszerűbb folyamattelepítési forgatókönyv.

A cikkben szereplő példa az azureml-examples adattárban található kódmintákon alapul. Ha helyileg szeretné futtatni a parancsokat a YAML és más fájlok másolása/beillesztése nélkül, először klónozza az adattárat, majd módosítsa a könyvtárakat a mappára:

Azure CLI

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

A példában szereplő fájlok a következők:

cd endpoints/batch/deploy-pipelines/hello-batch

Követés a Jupyter-jegyzetfüzetekben

A példa Python SDK-verziójával együtt követheti az sdk-deploy-and-test.ipynb jegyzetfüzetet a klónozott adattárban.

Előfeltételek

A cikkben ismertetett lépések végrehajtása előtt győződjön meg arról, hogy rendelkezik a következő előfeltételekkel:

• Azure-előfizetés. Ha még nincs Azure-előfizetése, kezdés előtt hozzon létre egy ingyenes fiókot. Próbálja ki az Azure Machine Tanulás ingyenes vagy fizetős verzióját.

• Egy Azure Machine Learning-munkaterület. Ha nincs ilyenje, az Azure Machine Tanulás-munkaterületek kezelése című cikk lépéseit követve hozzon létre egyet.

• Győződjön meg arról, hogy rendelkezik a következő engedélyekkel a munkaterületen:

  • Batch-végpontok és -üzemelő példányok létrehozása vagy kezelése: Használjon tulajdonosi, közreműködői vagy egyéni szerepkört, amely lehetővé teszi Microsoft.MachineLearningServices/workspaces/batchEndpoints/*.

  • ARM-üzemelő példányok létrehozása a munkaterület erőforráscsoportjában: Használjon tulajdonosi, közreműködői vagy egyéni szerepkört, amely lehetővé teszi Microsoft.Resources/deployments/write abban az erőforráscsoportban, amelyben a munkaterület telepítve van.

• Az Azure Machine Tanulás használatához telepítenie kell a következő szoftvert:

  Azure CLI

  Az Azure CLI és az mlAzure Machine Tanulás bővítménye.

  az extension add -n ml
  

  Feljegyzés

  A Batch-végpontok folyamatösszetevő-üzembe helyezését az ml Azure CLI bővítményének 2.7-es verziójában vezettük be. Az utolsó verzió lekérésére használható az extension update --name ml .

  Python

  Az Azure Machine Tanulás SDK for Python.

  pip install azure-ai-ml
  

  Feljegyzés

  Osztályok ModelBatchDeployment , és PipelineComponentBatchDeployment az SDK 1.7.0-s verziójában lettek bevezetve. Az utolsó verzió lekérésére használható pip install -U azure-ai-ml .

Csatlakozás a munkaterülethez

A munkaterület az Azure Machine Learning legfelső szintű erőforrása, amely egy központi helyet biztosít az Azure Machine Learning használata során létrehozott összetevőkkel való munkához. Ebben a szakaszban ahhoz a munkaterülethez csatlakozunk, amelyben üzembe helyezési feladatokat fog végrehajtani.

Azure CLI

Adja meg az előfizetés azonosítójának, munkaterületének, helyének és erőforráscsoportjának értékeit a következő kódban:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. Importálja a szükséges kódtárakat:

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Konfigurálja a munkaterület részleteit, és szerezze be a munkaterülethez a leírót:

   Adja meg az előfizetés azonosítójának, munkaterületének és erőforráscsoportjának értékeit a következő kódban:

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

A folyamat összetevőjének létrehozása

A Batch-végpontok modelleket vagy folyamatösszetevőket is üzembe helyezhetnek. A folyamatösszetevők újrafelhasználhatók, és egyszerűbbé teheti az MLOps-gyakorlatot , ha megosztott regisztrációs adatbázisokkal helyezi át ezeket az összetevőket egyik munkaterületről a másikra.

A példában szereplő folyamatösszetevő egyetlen lépést tartalmaz, amely csak egy "hello world" üzenetet nyomtat ki a naplókban. Nincs szükség bemenetre vagy kimenetre.

A hello-component/hello.yml fájl tartalmazza a folyamat összetevőjének konfigurációját:

hello-component/hello.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineComponent.schema.json
name: hello_batch
display_name: Hello Batch component
version: 1
type: pipeline
jobs:
  main_job:
    type: command
    component:
      code: src
      environment: azureml://registries/azureml/environments/sklearn-1.0/labels/latest
      command: >-
        python hello.py

Az összetevő regisztrálása:

Azure CLI

az ml component create -f hello-component/hello.yml

Python

hello_batch = load_component(source="hello-component/hello.yml")
hello_batch_registered = ml_client.components.create_or_update(hello_batch)

Batch-végpont létrehozása

1. Adja meg a végpont nevét. A kötegvégpont nevének minden régióban egyedinek kell lennie, mivel a név a hívási URI létrehozásához használatos. Az egyediség biztosításához fűzze hozzá a záró karaktereket az alábbi kódban megadott névhez.

   Azure CLI

   ENDPOINT_NAME="hello-batch"
   

   Python

   endpoint_name = "hello-batch"

2. A végpont konfigurálása:

   Azure CLI

   A endpoint.yml fájl tartalmazza a végpont konfigurációját.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )

3. Hozza létre a végpontot:

   Azure CLI

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

4. A végpont URI-jának lekérdezése:

   Azure CLI

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)

A folyamat összetevőjének üzembe helyezése

A folyamatösszetevő üzembe helyezéséhez kötegtelepítést kell létrehoznunk. Az üzembe helyezés az eszköz üzemeltetéséhez szükséges erőforrások készlete, amely elvégzi a tényleges munkát.

1. Hozzon létre egy számítási fürtöt. A Batch-végpontok és az üzemelő példányok számítási fürtökön futnak. Bármely Olyan Azure Machine-Tanulás számítási fürtön futtathatók, amely már létezik a munkaterületen. Ezért több kötegtelepítés is ugyanazt a számítási infrastruktúrát használhatja. Ebben a példában egy Azure Machine Tanulás nevű batch-clusterszámítási fürtön fogunk dolgozni. Ellenőrizzük, hogy a számítási feladat létezik-e a munkaterületen, vagy hozzuk létre másként.

   Azure CLI

   az ml compute create -n batch-cluster --type amlcompute --min-instances 0 --max-instances 5
   

   Python

   compute_name = "batch-cluster"
   if not any(filter(lambda m: m.name == compute_name, ml_client.compute.list())):
       compute_cluster = AmlCompute(
           name=compute_name,
           description="Batch endpoints compute cluster",
           min_instances=0,
           max_instances=5,
       )
       ml_client.begin_create_or_update(compute_cluster).result()

2. Konfigurálja az üzembe helyezést:

   Azure CLI

   A deployment.yml fájl tartalmazza az üzembe helyezés konfigurációját. További tulajdonságokat a teljes kötegelt végpont YAML-sémája is ellenőrizhet.

   deployment.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-dpl
   endpoint_name: hello-pipeline-batch
   type: pipeline
   component: azureml:hello_batch@latest
   settings:
       default_compute: batch-cluster
   

   Python

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-dpl",
       description="A hello world deployment with a single step.",
       endpoint_name=endpoint.name,
       component=hello_batch,
       settings={"continue_on_step_failure": False, "default_compute": compute_name},
   )

3. Hozza létre az üzembe helyezést:

   Azure CLI

   Futtassa a következő kódot egy batch-üzembe helyezés létrehozásához a batch-végpont alatt, és állítsa be alapértelmezett üzembe helyezésként.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME -f deployment.yml --set-default
   

   Tipp.

   Figyelje meg, hogy a --set-default jelző használatával jelezheti, hogy ez az új üzembe helyezés lett az alapértelmezett.

   Python

   Ez a parancs elindítja az üzembe helyezés létrehozását, és megerősítést kérő választ ad vissza, amíg a telepítés létrehozása folytatódik.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()

   A létrehozás után konfiguráljuk ezt az új üzembe helyezést alapértelmezettként:

   endpoint = ml_client.batch_endpoints.get(endpoint_name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

4. Az üzembe helyezés használatra kész.

Az üzemelő példány tesztelése

Az üzembe helyezés létrehozása után készen áll a feladatok fogadására. Az alapértelmezett üzembe helyezést az alábbiak szerint hívhatja meg:

Azure CLI

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Python

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name,
)

Tipp.

Ebben a példában a folyamat nem rendelkezik bemenetekkel vagy kimenetekkel. Ha azonban a folyamatösszetevő igényel néhányat, a meghíváskor jelezhető. A bemenetek és kimenetek jelzéséről további információt a Feladatok és bemeneti adatok létrehozása kötegelt végpontokhoz című témakörben, illetve a folyamat üzembe helyezése kötegelt pontozás előfeldolgozással (előzetes verzió) című témakörben talál.

A következőkkel figyelheti a bemutató előrehaladását, és streamelheti a naplókat:

Azure CLI

az ml job stream -n $JOB_NAME

Python

ml_client.jobs.get(job.name)

A feladat befejezéséhez futtassa a következő kódot:

ml_client.jobs.stream(name=job.name)

Az erőforrások eltávolítása

Ha végzett, törölje a társított erőforrásokat a munkaterületről:

Azure CLI

Futtassa a következő kódot a kötegvégpont és annak mögöttes üzembe helyezésének törléséhez. --yes a törlés megerősítésére szolgál.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

A végpont törlése:

ml_client.batch_endpoints.begin_delete(endpoint_name).result()

(Nem kötelező) Törölje a számítást, hacsak nem tervezi újra felhasználni a számítási fürtöt későbbi üzembe helyezésekkel.

Azure CLI

az ml compute delete -n batch-cluster

Python

ml_client.compute.begin_delete(name="batch-cluster")

Következő lépések

• Betanítási folyamat üzembe helyezése kötegelt végpontokkal)
• Folyamat üzembe helyezése kötegelt pontozás előfeldolgozással történő végrehajtásához
• Kötegelt végpontok létrehozása folyamatfeladatokból
• Feladatok és bemeneti adatok létrehozása kötegelt végpontokhoz
• Batch-végpontok hibaelhárítása