Wdrażanie modeli uczenia maszynowego na platformie AzureDeploy machine learning models to Azure

• Obszar roboczy usługi Azure Machine Learning.An Azure Machine Learning workspace. Aby uzyskać więcej informacji, zobacz Tworzenie obszaru roboczego Azure Machine Learning.For more information, see Create an Azure Machine Learning workspace.
• Model.A model. Jeśli nie masz przeszkolonego modelu, możesz użyć modelu i plików zależności, które są dostępne w tym samouczku.If you don't have a trained model, you can use the model and dependency files provided in this tutorial.
• Rozszerzenie interfejsu wiersza polecenia platformy Azure dla usługi Machine Learning.The Azure Command Line Interface (CLI) extension for the Machine Learning service.

• Obszar roboczy usługi Azure Machine Learning.An Azure Machine Learning workspace. Aby uzyskać więcej informacji, zobacz Tworzenie obszaru roboczego Azure Machine Learning.For more information, see Create an Azure Machine Learning workspace.
• Model.A model. Jeśli nie masz przeszkolonego modelu, możesz użyć modelu i plików zależności, które są dostępne w tym samouczku.If you don't have a trained model, you can use the model and dependency files provided in this tutorial.
• Zestaw SDK (Azure Machine Learning Software Development Kit) dla języka Python.The Azure Machine Learning software development kit (SDK) for Python.

Postępuj zgodnie z instrukcjami w dokumentacji interfejsu wiersza polecenia platformy Azure, aby ustawić kontekst subskrypcji.Follow the directions in the Azure CLI documentation for setting your subscription context.

Następnie wykonaj następujące czynności:Then do:

az ml workspace list --resource-group=<my resource group>

Aby wyświetlić obszary robocze, do których masz dostęp.to see the workspaces you have access to.

from azureml.core import Workspace
ws = Workspace.from_config(path=".file-path/ws_config.json")

Aby uzyskać więcej informacji na temat używania zestawu SDK do łączenia się z obszarem roboczym, zobacz dokumentację zestawu Azure Machine Learning SDK dla języka Python .For more information on using the SDK to connect to a workspace, see the Azure Machine Learning SDK for Python documentation.

Zarejestruj model na podstawie przebiegu szkolenia z usługi Azure MLRegister a model from an Azure ML training run

az ml model register -n sklearn_mnist  --asset-path outputs/sklearn_mnist_model.pkl  --experiment-name myexperiment --run-id myrunid --tag area=mnist

az extension add -n azure-cli-ml

--asset-pathParametr odnosi się do lokalizacji w chmurze modelu.The --asset-path parameter refers to the cloud location of the model. W tym przykładzie jest używana ścieżka pojedynczego pliku.In this example, the path of a single file is used. Aby uwzględnić w rejestracji modelu wiele plików, ustaw --asset-path ścieżkę folderu zawierającego pliki.To include multiple files in the model registration, set --asset-path to the path of a folder that contains the files.

Rejestrowanie modelu z pliku lokalnegoRegister a model from a local file

az ml model register -n onnx_mnist -p mnist/model.onnx

Aby uwzględnić w rejestracji modelu wiele plików, ustaw -p ścieżkę folderu zawierającego pliki.To include multiple files in the model registration, set -p to the path of a folder that contains the files.

Aby uzyskać więcej informacji na temat az ml model register , zapoznaj się z dokumentacją referencyjną.For more information on az ml model register, consult the reference documentation.

Zarejestruj model na podstawie przebiegu szkolenia z usługi Azure MLRegister a model from an Azure ML training run

Gdy korzystasz z zestawu SDK do uczenia modelu, możesz otrzymać obiekt Run lub obiekt AutoMLRun , w zależności od tego, jak został przeszkolony model.When you use the SDK to train a model, you can receive either a Run object or an AutoMLRun object, depending on how you trained the model. Każdy obiekt może służyć do rejestrowania modelu utworzonego przez uruchomienie eksperymentu.Each object can be used to register a model created by an experiment run.

• Zarejestruj model na podstawie azureml.core.Run obiektu:Register a model from an azureml.core.Run object:

  model = run.register_model(model_name='sklearn_mnist',
                             tags={'area': 'mnist'},
                             model_path='outputs/sklearn_mnist_model.pkl')
  print(model.name, model.id, model.version, sep='\t')
  

  model_pathParametr odnosi się do lokalizacji w chmurze modelu.The model_path parameter refers to the cloud location of the model. W tym przykładzie jest używana ścieżka pojedynczego pliku.In this example, the path of a single file is used. Aby uwzględnić w rejestracji modelu wiele plików, ustaw model_path ścieżkę folderu zawierającego pliki.To include multiple files in the model registration, set model_path to the path of a folder that contains the files. Aby uzyskać więcej informacji, zobacz dokumentację Run.register_model .For more information, see the Run.register_model documentation.

• Zarejestruj model na podstawie azureml.train.automl.run.AutoMLRun obiektu:Register a model from an azureml.train.automl.run.AutoMLRun object:

      description = 'My AutoML Model'
      model = run.register_model(description = description,
                                 tags={'area': 'mnist'})
  
      print(run.model_id)
  

  W tym przykładzie metric iteration Parametry i nie są określone, więc iteracja z najlepszą metryką podstawową zostanie zarejestrowana.In this example, the metric and iteration parameters aren't specified, so the iteration with the best primary metric will be registered. model_idWartość zwracana z przebiegu jest używana zamiast nazwy modelu.The model_id value returned from the run is used instead of a model name.

  Aby uzyskać więcej informacji, zobacz dokumentację AutoMLRun.register_model .For more information, see the AutoMLRun.register_model documentation.

Rejestrowanie modelu z pliku lokalnegoRegister a model from a local file

Model można zarejestrować, podając ścieżkę lokalną modelu.You can register a model by providing the local path of the model. Można podać ścieżkę do folderu lub pojedynczego pliku.You can provide the path of either a folder or a single file. Za pomocą tej metody można rejestrować modele przeszkolone przy użyciu Azure Machine Learning, a następnie pobrać.You can use this method to register models trained with Azure Machine Learning and then downloaded. Tej metody można również użyć do rejestrowania modeli przeszkolonych poza Azure Machine Learning.You can also use this method to register models trained outside of Azure Machine Learning.

• Korzystanie z zestawu SDK i ONNXUsing the SDK and ONNX

  import os
  import urllib.request
  from azureml.core.model import Model
  # Download model
  onnx_model_url = "https://www.cntk.ai/OnnxModels/mnist/opset_7/mnist.tar.gz"
  urllib.request.urlretrieve(onnx_model_url, filename="mnist.tar.gz")
  os.system('tar xvzf mnist.tar.gz')
  # Register model
  model = Model.register(workspace = ws,
                          model_path ="mnist/model.onnx",
                          model_name = "onnx_mnist",
                          tags = {"onnx": "demo"},
                          description = "MNIST image classification CNN from ONNX Model Zoo",)
  

  Aby uwzględnić w rejestracji modelu wiele plików, ustaw model_path ścieżkę folderu zawierającego pliki.To include multiple files in the model registration, set model_path to the path of a folder that contains the files.

Aby uzyskać więcej informacji, zobacz dokumentację klasy model.For more information, see the documentation for the Model class.

Aby uzyskać więcej informacji na temat pracy z modelami przeszkolonymi poza Azure Machine Learning, zobacz jak wdrożyć istniejący model.For more information on working with models trained outside Azure Machine Learning, see How to deploy an existing model.

Minimalną konfigurację wnioskowania można napisać jako:A minimal inference configuration can be written as:

{
    "entryScript": "score.py",
    "sourceDirectory": "./working_dir"
}

Oznacza to, że wdrożenie uczenia maszynowego będzie używać pliku score.py w ./working_dir katalogu do przetwarzania żądań przychodzących.This specifies that the machine learning deployment will use the file score.py in the ./working_dir directory to process incoming requests.

Zapoznaj się z tym artykułem , aby uzyskać bardziej szczegółowe omówienie konfiguracji wnioskowania.See this article for a more thorough discussion of inference configurations.

Poniższy przykład ilustruje:The following example demonstrates:

1. Ładowanie środowiska nadzorowanego z obszaru roboczegoloading a curated environment from your workspace
2. Klonowanie środowiskaCloning the environment
3. Określanie scikit-learn jako zależność.Specifying scikit-learn as a dependency.
4. Tworzenie InferenceConfig przy użyciu środowiskaUsing the environment to create an InferenceConfig

from azureml.core.environment import Environment
from azureml.core.model import InferenceConfig


env = Environment.get(workspace, "AzureML-Minimal").clone(env_name)

for pip_package in ["scikit-learn"]:
    env.python.conda_dependencies.add_pip_package(pip_package)

inference_config = InferenceConfig(entry_script='path-to-score.py',
                                    environment=env)

Aby uzyskać więcej informacji o środowiskach, zobacz Tworzenie środowisk i zarządzanie nimi na potrzeby szkolenia i wdrażania.For more information on environments, see Create and manage environments for training and deployment.

Aby uzyskać więcej informacji na temat konfiguracji wnioskowania, zobacz dokumentację klasy InferenceConfig .For more information on inference configuration, see the InferenceConfig class documentation.

Opcje dostępne dla konfiguracji wdrożenia różnią się w zależności od wybranego elementu docelowego obliczeń.The options available for a deployment configuration differ depending on the compute target you choose.

Wpisy w dokumencie są deploymentconfig.json mapowane na parametry LocalWebservice.deploy_configuration.The entries in the deploymentconfig.json document map to the parameters for LocalWebservice.deploy_configuration. W poniższej tabeli opisano mapowanie między jednostkami w dokumencie JSON a parametrami metody:The following table describes the mapping between the entities in the JSON document and the parameters for the method:

Ten kod JSON jest przykładową konfiguracją wdrożenia do użycia z interfejsem wiersza polecenia:This JSON is an example deployment configuration for use with the CLI:

{
    "computeType": "local",
    "port": 32267
}

Aby uzyskać więcej informacji, zobacz to odwołanie.For more information, see this reference.

Przed wdrożeniem modelu należy zdefiniować konfigurację wdrożenia.Before deploying your model, you must define the deployment configuration. Konfiguracja wdrożenia jest specyficzna dla elementu docelowego obliczeń, który będzie hostować usługę sieci Web.The deployment configuration is specific to the compute target that will host the web service. Na przykład podczas lokalnego wdrażania modelu należy określić port, w którym usługa akceptuje żądania.For example, when you deploy a model locally, you must specify the port where the service accepts requests. Konfiguracja wdrożenia nie jest częścią skryptu wejścia.The deployment configuration isn't part of your entry script. Służy do definiowania właściwości obiektu docelowego obliczeń, który będzie hostować model i skrypt wejścia.It's used to define the characteristics of the compute target that will host the model and entry script.

Może być również konieczne utworzenie zasobu obliczeniowego, jeśli na przykład nie masz jeszcze wystąpienia usługi Azure Kubernetes Service (AKS) skojarzonego z Twoim obszarem roboczym.You might also need to create the compute resource, if, for example, you don't already have an Azure Kubernetes Service (AKS) instance associated with your workspace.

Poniższa tabela zawiera przykład tworzenia konfiguracji wdrożenia dla każdego obiektu docelowego obliczeń:The following table provides an example of creating a deployment configuration for each compute target:

Klasy dla lokalnych, Azure Container Instances i usług sieci Web AKS można zaimportować z azureml.core.webservice :The classes for local, Azure Container Instances, and AKS web services can be imported from azureml.core.webservice:

from azureml.core.webservice import AciWebservice, AksWebservice, LocalWebservice

Korzystanie z zarejestrowanego modeluUsing a registered model

Jeśli model został zarejestrowany w obszarze roboczym Azure Machine Learning, Zastąp ciąg "webmodeling: 1" nazwą Twojego modelu i numerem wersji.If you registered your model in your Azure Machine Learning workspace, replace "mymodel:1" with the name of your model and its version number.

az ml model deploy -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

Korzystanie z modelu lokalnegoUsing a local model

Jeśli wolisz nie rejestrować modelu, możesz przekazać parametr "sourceDirectory" w inferenceconfig.js, aby określić katalog lokalny, który ma być obsługiwany przez model.If you would prefer not to register your model, you can pass the "sourceDirectory" parameter in your inferenceconfig.json to specify a local directory from which to serve your model.

az ml model deploy --ic inferenceconfig.json --dc deploymentconfig.json

W poniższym przykładzie pokazano lokalne wdrożenie.The example below demonstrates a local deployment. Składnia różni się w zależności od celu obliczeń wybranego w poprzednim kroku.The syntax will vary depending on the compute target you chose in the previous step.

from azureml.core.webservice import LocalWebservice, Webservice

deployment_config = LocalWebservice.deploy_configuration(port=8890)
service = Model.deploy(ws, "myservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Aby uzyskać więcej informacji, zobacz dokumentację dotyczącą LocalWebservice, model. deploy ()i usługi sieci Web.For more information, see the documentation for LocalWebservice, Model.deploy(), and Webservice.

Aby usunąć wdrożoną usługę sieci Web, użyj programu az ml service <name of webservice> .To delete a deployed webservice, use az ml service <name of webservice>.

Aby usunąć zarejestrowany model z obszaru roboczego, użyj az ml model delete <model id>To delete a registered model from your workspace, use az ml model delete <model id>

Przeczytaj więcej na temat usuwania usługi sieci Web i usuwania modelu.Read more about deleting a webservice and deleting a model.

Aby usunąć wdrożoną usługę sieci Web, użyj programu service.delete() .To delete a deployed web service, use service.delete(). Aby usunąć zarejestrowany model, użyj model.delete() .To delete a registered model, use model.delete().

Aby uzyskać więcej informacji, zobacz dokumentację dotyczącą usługi WebService. Delete () i model. Delete ().For more information, see the documentation for WebService.delete() and Model.delete().