Makine öğrenmesi modellerini Azure'a dağıtma

• Azure Machine Learning çalışma alanı. Daha fazla bilgi için bkz. Çalışma alanı Azure Machine Learning oluşturma.
• Model. Bu makaledeki örneklerde önceden eğitilmiş bir model lanmıştır.
• İşlem örneği gibi Docker çalıştıran bir makine.

• Azure Machine Learning çalışma alanı. Daha fazla bilgi için bkz. Çalışma alanı Azure Machine Learning oluşturma.
• Model. Bu makaledeki örneklerde önceden eğitilmiş bir model lanmıştır.
• Python Azure Machine Learning yazılım geliştirme seti (SDK) .
• İşlem örneği gibi Docker çalıştıran bir makine.

Erişiminiz olan çalışma alanlarını görmek için aşağıdaki komutları kullanın:

az login
az account set -s <subscription>
az ml workspace list --resource-group=<resource-group>

from azureml.core import Workspace
ws = Workspace(subscription_id="<subscription_id>",
               resource_group="<resource_group>",
               workspace_name="<workspace_name>")

Çalışma alanına bağlanmak için SDK'yı kullanma hakkında daha fazla bilgi için Python için Azure Machine Learning SDK belgelerine bakın.

Aşağıdaki komutlar bir modeli indirir ve ardından modeli çalışma alanınıza Azure Machine Learning alır:

wget https://aka.ms/bidaf-9-model -O model.onnx --show-progress
az ml model register -n bidaf_onnx \
    -p ./model.onnx \
    -g <resource-group> \
    -w <workspace-name>

Bir -p klasörün veya kaydetmek istediğiniz bir dosyanın yoluna ayarlayın.

hakkında daha fazla bilgi az ml model register için başvuru belgelerine bakın.

Eğitim çalıştırması için Azure ML modeli kaydetme

Daha önce bir Azure Machine Learning eğitim işiyle oluşturulmuş bir modeli kaydetmeniz gerekirse, denemeyi, çalıştırmayı ve modelin yolunu belirterek:

az ml model register -n bidaf_onnx --asset-path outputs/model.onnx --experiment-name myexperiment --run-id myrunid --tag area=qna

--asset-pathparametresi, modelin bulut konumunu ifade eder. Bu örnekte, tek bir dosyanın yolu kullanılır. Model kaydına birden çok dosya eklemek için, --asset-path dosyaları içeren klasörün yoluna ayarlayın.

hakkında daha fazla bilgi az ml model register için başvuru belgelerine bakın.

Yerel dosyadan model kaydetme

Modelin yerel yolunu sağlayarak modeli kaydedesiniz. Yerel makinenize bir klasörün veya tek bir dosyanın yolunu sebilirsiniz.

[! Notebook-python[] (~/azureml-examples-main/python-sdk/tutorials/deploy-local/1.deploy-local.ipynb?name=register-model-from-local-file-code)]

Model kaydına birden çok dosya eklemek için, model_path dosyaları içeren klasörün yoluna ayarlayın.

Daha fazla bilgi için Model sınıfı belgelerine bakın.

Eğitim çalıştırması için Azure ML modeli kaydetme

Modeli eğitmek için SDK'yı kullanarak modeli nasıl eğittiynize bağlı olarak bir Run nesnesi veya AutoMLRun nesnesi edinebilirsiniz. Her nesne, deneme çalıştırması tarafından oluşturulan bir modeli kaydetmek için kullanılabilir.

• Bir nesneden model azureml.core.Run kaydetme:

  model = run.register_model(model_name='bidaf_onnx',
                             tags={'area': 'qna'},
                             model_path='outputs/model.onnx')
  print(model.name, model.id, model.version, sep='\t')
  

  model_pathparametresi, modelin bulut konumunu ifade eder. Bu örnekte, tek bir dosyanın yolu kullanılır. Model kaydına birden çok dosya eklemek için, model_path dosyaları içeren klasörün yoluna ayarlayın. Daha fazla bilgi için Run.register_model bakın.

• Bir nesneden model azureml.train.automl.run.AutoMLRun kaydetme:

  description = 'My AutoML Model'
  model = run.register_model(description = description,
                              tags={'area': 'qna'})
  
  print(run.model_id)
  

  Bu örnekte ve parametreleri belirtilmediği için en iyi birincil ölçüme sahip metric iteration yineleme kaydedilir. Çalıştırmadan model_id döndürülen değer, model adı yerine kullanılır.

  Daha fazla bilgi için AutoMLRun.register_model bakın.

  bir 'den kayıtlı bir model dağıtmak için, Bunu Azure Machine Learning Studio'daki tek tıklamayla AutoMLRun dağıt düğmesi aracılığıyla öneririz.

En düşük çıkarım yapılandırması şu şekilde yaz olabilir:

{
    "entryScript": "echo_score.py",
    "sourceDirectory": "./source_dir",
    "environment": {
        "docker": {
            "arguments": [],
            "baseDockerfile": null,
            "baseImage": "mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04",
            "enabled": false,
            "sharedVolumes": true,
            "shmSize": null
        },
        "environmentVariables": {
            "EXAMPLE_ENV_VAR": "EXAMPLE_VALUE"
        },
        "name": "my-deploy-env",
        "python": {
            "baseCondaEnvironment": null,
            "condaDependencies": {
                "channels": [],
                "dependencies": [
                    "python=3.6.2",
                    {
                        "pip": [
                            "azureml-defaults"
                        ]
                    }
                ],
                "name": "project_environment"
            },
            "condaDependenciesFile": null,
            "interpreterPath": "python",
            "userManagedDependencies": false
        },
        "version": "1"
    }
}

Bu dosyayı adıyla dummyinferenceconfig.json kaydedin.

Çıkarım yapılandırmaları hakkında daha ayrıntılı bilgi için bu makaleye bakın.

Aşağıdaki örnekte, yukarıda tanımlandığınız sahte puanlama betiği kullanılarak pip bağımlılığına sahip minimum bir ortamın nasıl oluşturulacakları gösteriliyor.

[! Notebook-python[] (~/azureml-examples-main/python-sdk/tutorials/deploy-local/1.deploy-local.ipynb?name=inference-configuration-code)]

Ortamlar hakkında daha fazla bilgi için bkz. Eğitim ve dağıtım için ortam oluşturma ve yönetme.

Çıkarım yapılandırması hakkında daha fazla bilgi için InferenceConfig sınıf belgelerine bakın.

deploymentconfig.jsonBelgedeki girişler LocalWebservice.deploy_configurationparametrelerine eşlenir. Aşağıdaki tabloda, JSON belgesindeki varlıklar ve yöntemin parametreleri arasındaki eşleme açıklanmaktadır:

Bu JSON, CLı ile kullanılacak örnek bir dağıtım yapılandırması örneğidir:

{
    "computeType": "local",
    "port": 32267
}

Bu JSON dosyasını adlı bir dosya olarak kaydedin deploymentconfig.json .

Daha fazla bilgi için bkz. dağıtım şeması.

Aşağıdaki Python, yerel dağıtım yapılandırmasının nasıl oluşturulacağını göstermektedir:

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = Deployment-Configuration-Code)]

bidaf_onnx:1Modelinizin adı ve sürüm numarası ile değiştirin.

az ml model deploy -n myservice \
    -m bidaf_onnx:1 \
    --overwrite \
    --ic dummyinferenceconfig.json \
    --dc deploymentconfig.json \
    -g <resource-group> \
    -w <workspace-name>

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = Deploy-model-Code)]

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? ad = dağıt-Model-Yazdır-Günlükler)]

Daha fazla bilgi için bkz. model. deploy () ve WebServicebelgeleri.

curl -v http://localhost:32267
curl -v -X POST -H "content-type:application/json" \
    -d '{"query": "What color is the fox", "context": "The quick brown fox jumped over the lazy dog."}' \
    http://localhost:32267/score

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = Call-to-model-Code)]

{
    "entryScript": "score.py",
    "sourceDirectory": "./source_dir",
    "environment": {
        "docker": {
            "arguments": [],
            "baseDockerfile": null,
            "baseImage": "mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04",
            "enabled": false,
            "sharedVolumes": true,
            "shmSize": null
        },
        "environmentVariables": {
            "EXAMPLE_ENV_VAR": "EXAMPLE_VALUE"
        },
        "name": "my-deploy-env",
        "python": {
            "baseCondaEnvironment": null,
            "condaDependencies": {
                "channels": [],
                "dependencies": [
                    "python=3.6.2",
                    {
                        "pip": [
                            "azureml-defaults",
                            "nltk",
                            "numpy",
                            "onnxruntime"
                        ]
                    }
                ],
                "name": "project_environment"
            },
            "condaDependenciesFile": null,
            "interpreterPath": "python",
            "userManagedDependencies": false
        },
        "version": "2"
    }
}

Bu dosyayı farklı kaydet inferenceconfig.json

env = Environment(name='myenv')
python_packages = ['nltk', 'numpy', 'onnxruntime']
for package in python_packages:
    env.python.conda_dependencies.add_pip_package(package)

inference_config = InferenceConfig(environment=env, source_directory='./source_dir', entry_script='./score.py')

Daha fazla bilgi için bkz. Localwebservice, model. deploy ()ve WebServicebelgeleri.

bidaf_onnx:1Modelinizin adı ve sürüm numarası ile değiştirin.

az ml model deploy -n myservice \
    -m bidaf_onnx:1 \
    --overwrite \
    --ic inferenceconfig.json \
    --dc deploymentconfig.json \
    -g <resource-group> \
    -w <workspace-name>

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = yeniden Dağıt-model-Code)]

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = yeniden Dağıt-Model-Yazdır-Günlükler)]

Daha fazla bilgi için bkz. model. deploy () ve WebServicebelgeleri.

curl -v -X POST -H "content-type:application/json" \
    -d '{"query": "What color is the fox", "context": "The quick brown fox jumped over the lazy dog."}' \
    http://localhost:32267/score

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? ad = gönderme-Post-Request-Code)]

Bir dağıtım yapılandırması için kullanılabilen seçenekler, seçtiğiniz işlem hedefine bağlı olarak farklılık gösterir.

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Bu dosyayı olarak kaydedin re-deploymentconfig.json .

Daha fazla bilgi için Bu başvuruyabakın.

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = Deploy-model-on-Cloud-Code)]

bidaf_onnx:1Modelinizin adı ve sürüm numarası ile değiştirin.

az ml model deploy -n myservice \
    -m bidaf_onnx:1 \
    --overwrite \
    --ic inferenceconfig.json \
    --dc re-deploymentconfig.json \
    -g <resource-group> \
    -w <workspace-name>

Hizmet günlüklerini görüntülemek için aşağıdaki komutu kullanın:

az ml service get-logs -n myservice \
    -g <resource-group> \
    -w <workspace-name>

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? Name = yeniden Dağıt-Service-Code)]

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? ad = yeniden Dağıt-hizmet-Yazdır-Günlükler)]

Daha fazla bilgi için bkz. model. deploy () ve WebServicebelgeleri.

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/2.deploy-Local-cli.ipynb? ad = Delete-Resource-Code)]

az ml service delete -n myservice
az ml service delete -n myaciservice
az ml model delete --model-id=<MODEL_ID>

Dağıtılan bir Web hizmetini silmek için kullanın az ml service delete <name of webservice> .

Çalışma alanınızdan kayıtlı bir modeli silmek için şunu kullanın az ml model delete <model id>

Bir Web hizmetini silme ve bir modeli silmehakkında daha fazla bilgi edinin.

[! Not defteri-Python [] (~/azureml-examples-Main/Python-SDK/Tutorials/Deploy-Local/1.deploy-Local.ipynb? ad = Delete-Resource-Code)]

Dağıtılmış bir Web hizmetini silmek için kullanın service.delete() . Kayıtlı bir modeli silmek için kullanın model.delete() .

Daha fazla bilgi için bkz. WebService. Delete () ve model. Delete ()belgeleri.