Como o Azure Machine Learning funciona: Arquitetura e conceitosHow Azure Machine Learning works: Architecture and concepts

Saiba mais sobre a arquitetura e os conceitos para Azure Machine Learning.Learn about the architecture and concepts for Azure Machine Learning. Este artigo fornece uma compreensão de alto nível dos componentes e como eles funcionam juntos para auxiliar no processo de criação, implantação e manutenção de modelos de aprendizado de máquina.This article gives you a high-level understanding of the components and how they work together to assist in the process of building, deploying, and maintaining machine learning models.

EspaçoWorkspace

Um espaço de trabalho do Machine Learning é o recurso de nível superior para Azure Machine Learning.A machine learning workspace is the top-level resource for Azure Machine Learning.

Diagrama: arquitetura de Azure Machine Learning de um espaço de trabalho e seus componentes

O espaço de trabalho é o local centralizado para:The workspace is the centralized place to:

Um espaço de trabalho inclui outros recursos do Azure que são usados pelo espaço de trabalho:A workspace includes other Azure resources that are used by the workspace:

  • ACR (registro de contêiner do Azure): registra os contêineres do Docker que você usa durante o treinamento e quando implanta um modelo.Azure Container Registry (ACR): Registers docker containers that you use during training and when you deploy a model. Para minimizar os custos, o ACR só é criado quando imagens de implantação são criadas.To minimize costs, ACR is only created when deployment images are created.
  • Conta de armazenamento do Azure: é usada como o repositório de armazenamento padrão para o espaço de trabalho.Azure Storage account: Is used as the default datastore for the workspace. Os blocos de anotações do Jupyter que são usados com suas instâncias de computação Azure Machine Learning também são armazenados aqui.Jupyter notebooks that are used with your Azure Machine Learning compute instances are stored here as well.
  • Insights de aplicativo Azure: armazena informações de monitoramento sobre seus modelos.Azure Application Insights: Stores monitoring information about your models.
  • Azure Key Vault: armazena segredos que são usados por destinos de computação e outras informações confidenciais que são necessárias para o espaço de trabalho.Azure Key Vault: Stores secrets that are used by compute targets and other sensitive information that's needed by the workspace.

Você pode compartilhar um workspace com outras pessoas.You can share a workspace with others.

Criar workspaceCreate workspace

O diagrama a seguir mostra o fluxo de trabalho da criação de um workspace.The following diagram shows the create workspace workflow.

  • Você entra no Azure AD de um dos clientes do Azure Machine Learning com suporte (CLI do Azure, SDK do Python, portal do Azure) e solicita o token apropriado do Azure Resource Manager.You sign in to Azure AD from one of the supported Azure Machine Learning clients (Azure CLI, Python SDK, Azure portal) and request the appropriate Azure Resource Manager token.
  • Você chama o Azure Resource Manager para criar o workspace.You call Azure Resource Manager to create the workspace.
  • O Azure Resource Manager contata o provedor de recursos do Azure Machine Learning para provisionar o workspace.Azure Resource Manager contacts the Azure Machine Learning resource provider to provision the workspace.
  • Se você não especificar recursos existentes, recursos adicionais necessários serão criados em sua assinatura.If you don't specify existing resources, additional required resources are created in your subscription..

Você também pode provisionar outros destinos de computação anexados a um espaço de trabalho (como o serviço kubernetes do Azure ou VMs), conforme necessário.You can also provision other compute targets that are attached to a workspace (like Azure Kubernetes Service or VMs) as needed.

Criar fluxo de trabalho do workspaceCreate workspace workflow

CalculaComputes

Um destino de computação é qualquer computador ou conjunto de máquinas que você usa para executar o script de treinamento ou hospedar sua implantação de serviço.A compute target is any machine or set of machines you use to run your training script or host your service deployment. Você pode usar seu computador local ou um recurso de computação remota como um destino de computação.You can use your local machine or a remote compute resource as a compute target. Com os destinos de computação, você pode iniciar o treinamento em seu computador local e, em seguida, expandir para a nuvem sem alterar o script de treinamento.With compute targets, you can start training on your local machine and then scale out to the cloud without changing your training script.

Azure Machine Learning introduz duas VMS (máquinas virtuais) baseadas em nuvem totalmente gerenciadas configuradas para tarefas de aprendizado de máquina:Azure Machine Learning introduces two fully managed cloud-based virtual machines (VM) that are configured for machine learning tasks:

  • Instância de computação : uma instância de computação é uma VM que inclui várias ferramentas e ambientes instalados para aprendizado de máquina.Compute instance : A compute instance is a VM that includes multiple tools and environments installed for machine learning. O uso principal de uma instância de computação é para sua estação de trabalho de desenvolvimento.The primary use of a compute instance is for your development workstation. Você pode começar a executar blocos de anotações de exemplo sem a necessidade de configuração.You can start running sample notebooks with no setup required. Uma instância de computação também pode ser usada como um destino de computação para trabalhos de treinamento e inferência.A compute instance can also be used as a compute target for training and inferencing jobs.

  • Clusters de computação : clusters de computação são um cluster de VMs com recursos de dimensionamento de vários nós.Compute clusters : Compute clusters are a cluster of VMs with multi-node scaling capabilities. Os clusters de computação são mais adequados para destinos de computação para trabalhos grandes e produção.Compute clusters are better suited for compute targets for large jobs and production. O cluster é dimensionado automaticamente quando um trabalho é enviado.The cluster scales up automatically when a job is submitted. Use como um destino de computação de treinamento ou para implantação de desenvolvimento/teste.Use as a training compute target or for dev/test deployment.

Para obter mais informações sobre os destinos de computação de treinamento, consulte Training Compute targets.For more information about training compute targets, see Training compute targets. Para obter mais informações sobre destinos de computação de implantação, consulte destinos de implantação.For more information about deployment compute targets, see Deployment targets.

Conjuntos de dados e armazenamentos de dadosDatasets and datastores

Azure Machine Learning DataSets facilitam o acesso e o trabalho com seus dados.Azure Machine Learning Datasets make it easier to access and work with your data. Ao criar um conjunto de dados, você cria uma referência para o local de origem da fonte junto com uma cópia de seus metadados.By creating a dataset, you create a reference to the data source location along with a copy of its metadata. Como os dados permanecem em seu local existente, você não incorre nenhum custo de armazenamento extra e não arriscará a integridade de suas fontes de dados.Because the data remains in its existing location, you incur no extra storage cost, and don't risk the integrity of your data sources.

Para obter mais informações, confira Criar e registrar conjuntos de dados do Azure Machine Learning.For more information, see Create and register Azure Machine Learning Datasets. Para obter mais exemplos do uso de conjuntos de dados, confira os exemplos de notebooks.For more examples using Datasets, see the sample notebooks.

Os conjuntos de valores usam repositórios de armazenamento para se conectar com segurança aos serviços de armazenamento do Azure.Datasets use datastores to securely connect to your Azure storage services. Os armazenamentos de dados armazenam informações de conexão sem colocar suas credenciais de autenticação e a integridade da fonte original em risco.Datastores store connection information without putting your authentication credentials and the integrity of your original data source at risk. Eles armazenam informações de conexão, como a sua ID de assinatura e a autorização de token em seu Key Vault associado ao espaço de trabalho, para que você possa acessar seu armazenamento com segurança sem precisar embuti-los em seu script.They store connection information, like your subscription ID and token authorization in your Key Vault associated with the workspace, so you can securely access your storage without having to hard code them in your script.

AmbientesEnvironments

Espaço de trabalho > AmbientesWorkspace > Environments

Um ambiente é o encapsulamento do ambiente em que ocorre o treinamento ou a Pontuação do seu modelo de aprendizado de máquina.An environment is the encapsulation of the environment where training or scoring of your machine learning model happens. O ambiente especifica os pacotes do Python, as variáveis de ambiente e as configurações de software em relação aos seus scripts de treinamento e pontuação.The environment specifies the Python packages, environment variables, and software settings around your training and scoring scripts.

Para obter exemplos de código, consulte a seção "gerenciar ambientes" de como usar ambientes.For code samples, see the "Manage environments" section of How to use environments.

TestesExperiments

Espaço de trabalho > ExperimentosWorkspace > Experiments

Um experimento é um agrupamento de diversas execuções de um determinado script.An experiment is a grouping of many runs from a specified script. Ele sempre pertence a um workspace.It always belongs to a workspace. Quando você envia uma execução, você pode fornecer um nome de experimento.When you submit a run, you provide an experiment name. As informações para a execução são armazenadas nesse experimento.Information for the run is stored under that experiment. Se o nome não existir quando você enviar um experimento, um novo experimento será criado automaticamente.If the name doesn't exist when you submit an experiment, a new experiment is automatically created.

Para obter um exemplo do uso de um experimento, confira Tutorial: treinar seu primeiro modelo.For an example of using an experiment, see Tutorial: Train your first model.

ExecuçõesRuns

Espaço de trabalho > Experimentos > ExecutarWorkspace > Experiments > Run

Uma execução é uma execução única de um script de treinamento.A run is a single execution of a training script. Um experimento normalmente conterá várias execuções.An experiment will typically contain multiple runs.

O Azure Machine Learning registra todas as execuções e armazena as seguintes informações no experimento:Azure Machine Learning records all runs and stores the following information in the experiment:

  • Metadados sobre a execução (carimbo de hora, duração, etc.)Metadata about the run (timestamp, duration, and so on)
  • Métricas registradas pelo seu scriptMetrics that are logged by your script
  • Arquivos de saída coletados automaticamente pelo experimento ou carregados explicitamente por vocêOutput files that are autocollected by the experiment or explicitly uploaded by you
  • Um instantâneo do diretório que contém seus scripts, antes da execuçãoA snapshot of the directory that contains your scripts, prior to the run

Uma execução é produzida quando você envia um script para fazer o treinamento de um modelo.You produce a run when you submit a script to train a model. Uma execução pode ter zero ou mais execuções filho.A run can have zero or more child runs. Por exemplo, a execução de nível superior pode ter duas execuções filho, cada uma delas pode ter sua próprias execuções filho.For example, the top-level run might have two child runs, each of which might have its own child run.

Configurações de execuçãoRun configurations

Espaço de trabalho > Experimentos > Executar > Configuração de execuçãoWorkspace > Experiments > Run > Run configuration

Uma configuração de execução define como um script deve ser executado em um destino de computação especificado.A run configuration defines how a script should be run in a specified compute target. Você usa a configuração para especificar o script, o destino de computação e o ambiente do Azure ML a ser executado, todas as configurações específicas de trabalho distribuídas e algumas propriedades adicionais.You use the configuration to specify the script, the compute target and Azure ML environment to run on, any distributed job-specific configurations, and some additional properties. Para obter mais informações sobre o conjunto completo de opções configuráveis para execuções, consulte ScriptRunConfig.For more information on the full set of configurable options for runs, see ScriptRunConfig.

Uma configuração de execução pode ser persistida em um arquivo dentro do diretório que contém o script de treinamento.A run configuration can be persisted into a file inside the directory that contains your training script. Ou pode ser construído como um objeto na memória e usado para enviar uma execução.Or it can be constructed as an in-memory object and used to submit a run.

Por exemplo, execute as configurações, consulte Configurar uma execução de treinamento.For example run configurations, see Configure a training run.

InstantâneosSnapshots

Espaço de trabalho > Experimentos > Executar > InstantâneoWorkspace > Experiments > Run > Snapshot

Ao enviar uma execução, o Azure Machine Learning compacta o diretório que contém o script como um arquivo zip e o envia para o destino de computação.When you submit a run, Azure Machine Learning compresses the directory that contains the script as a zip file and sends it to the compute target. O arquivo zip é expandido e o script é executado lá.The zip file is then extracted, and the script is run there. O Azure Machine Learning também armazena o arquivo zip como um instantâneo como parte do registro de execução.Azure Machine Learning also stores the zip file as a snapshot as part of the run record. Qualquer pessoa com acesso ao workspace pode procurar um registro de execução e baixar o instantâneo.Anyone with access to the workspace can browse a run record and download the snapshot.

O diagrama a seguir mostra o fluxo de trabalho do instantâneo do código.The following diagram shows the code snapshot workflow.

Fluxo de trabalho do instantâneo de códigoCode snapshot workflow

Registrando em logLogging

Azure Machine Learning registra automaticamente as métricas de execução padrão para você.Azure Machine Learning automatically logs standard run metrics for you. No entanto, você também pode usar o SDK do Python para registrar métricas arbitrárias.However, you can also use the Python SDK to log arbitrary metrics.

Há várias maneiras de exibir seus logs: status de execução de monitoramento em tempo real ou exibição de resultados após a conclusão.There are multiple ways to view your logs: monitoring run status in real time, or viewing results after completion. Para obter mais informações, consulte monitorar e exibir os logs de execução do ml.For more information, see Monitor and view ML run logs.

Observação

Para impedir que arquivos desnecessários sejam incluídos no instantâneo, faça um arquivo ignorar ( .gitignore ou .amlignore ) no diretório.To prevent unnecessary files from being included in the snapshot, make an ignore file (.gitignore or .amlignore) in the directory. Adicione os arquivos e diretórios a serem excluídos para esse arquivo.Add the files and directories to exclude to this file. Para obter mais informações sobre a sintaxe a ser usada dentro desse arquivo, consulte sintaxe e padrões para .gitignore .For more information on the syntax to use inside this file, see syntax and patterns for .gitignore. O .amlignore arquivo usa a mesma sintaxe.The .amlignore file uses the same syntax. Se ambos os arquivos existirem, o .amlignore arquivo terá precedência.If both files exist, the .amlignore file takes precedence.

Acompanhamento e integração do GitGit tracking and integration

Quando você inicia uma execução de treinamento em que o diretório de origem é um repositório Git local, as informações sobre o repositório são armazenadas no histórico de execuções.When you start a training run where the source directory is a local Git repository, information about the repository is stored in the run history. Isso funciona com execuções enviadas usando uma configuração de execução de script ou um pipeline de ML.This works with runs submitted using a script run configuration or ML pipeline. Também funciona para execuções enviadas do SDK ou da CLI do Machine Learning.It also works for runs submitted from the SDK or Machine Learning CLI.

Para obter mais informações, confira Integração do Git com o Azure Machine Learning.For more information, see Git integration for Azure Machine Learning.

Fluxo de trabalho do treinamentoTraining workflow

Quando você executa um experimento para treinar um modelo, ocorrem as etapas a seguir.When you run an experiment to train a model, the following steps happen. Eles são ilustrados no diagrama de fluxo de trabalho de treinamento abaixo:These are illustrated in the training workflow diagram below:

  • O Azure Machine Learning é chamado com a ID de instantâneo do instantâneo de código salvo na seção anterior.Azure Machine Learning is called with the snapshot ID for the code snapshot saved in the previous section.

  • O Azure Machine Learning cria uma ID de execução (opcional) e um token de serviço do Machine Learning, que é usado posteriormente por destinos de computação como Computação do Machine Learning/VMs para se comunicar com o serviço do Machine Learning.Azure Machine Learning creates a run ID (optional) and a Machine Learning service token, which is later used by compute targets like Machine Learning Compute/VMs to communicate with the Machine Learning service.

  • Para executar trabalhos de treinamento, você pode escolher um destino de computação gerenciado (como Computação do Machine Learning) ou um destino de computação não gerenciado (como VMs).You can choose either a managed compute target (like Machine Learning Compute) or an unmanaged compute target (like VMs) to run training jobs. Veja os fluxos de dados para ambos os cenários:Here are the data flows for both scenarios:

    • VMs/HDInsight acessadas por credenciais SSH em um cofre de chaves na assinatura da Microsoft.VMs/HDInsight, accessed by SSH credentials in a key vault in the Microsoft subscription. O Azure Machine Learning executa o código de gerenciamento no destino de computação que:Azure Machine Learning runs management code on the compute target that:
    1. Prepara o ambiente.Prepares the environment. (O Docker é uma opção para VMs e computadores locais.(Docker is an option for VMs and local computers. Consulte as etapas a seguir para a Computação do Machine Learning entender como funciona a execução de experimentos em contêineres do Docker.)See the following steps for Machine Learning Compute to understand how running experiments on Docker containers works.)
    2. Baixa o código.Downloads the code.
    3. Define as configurações e variáveis do ambiente.Sets up environment variables and configurations.
    4. Executa scripts de usuário (o instantâneo de código mencionado na seção anterior).Runs user scripts (the code snapshot mentioned in the previous section).
    • A Computação do Machine Learning, acessada por meio de uma identidade gerenciada por workspace.Machine Learning Compute, accessed through a workspace-managed identity. Como a Computação do Machine Learning é um destino de computação gerenciado (ou seja, é gerenciado pela Microsoft), ela é executada em sua assinatura da Microsoft.Because Machine Learning Compute is a managed compute target (that is, it's managed by Microsoft) it runs under your Microsoft subscription.
    1. A construção remota do Docker é inicializada, se for necessário.Remote Docker construction is kicked off, if needed.
    2. O código de gerenciamento é gravado no compartilhamento de Arquivos do Azure do usuário.Management code is written to the user's Azure Files share.
    3. O contêiner é iniciado com um comando inicial.The container is started with an initial command. Ou seja, o código de gerenciamento, conforme descrito na etapa anterior.That is, management code as described in the previous step.
  • Após a conclusão da execução, você poderá consultar as execuções e métricas.After the run completes, you can query runs and metrics. No diagrama de fluxo abaixo, essa etapa ocorre quando o destino de computação de treinamento grava as métricas de execução de volta ao Azure Machine Learning a partir do armazenamento no banco de dados do Cosmos DB.In the flow diagram below, this step occurs when the training compute target writes the run metrics back to Azure Machine Learning from storage in the Cosmos DB database. Os clientes podem chamar o Azure Machine Learning.Clients can call Azure Machine Learning. O Machine Learning, por sua vez, transformará as métricas de pull do banco de dados do Cosmos DB e as retornará ao cliente.Machine Learning will in turn pull metrics from the Cosmos DB database and return them back to the client.

Fluxo de trabalho do treinamentoTraining workflow

ModelosModels

Em sua forma mais simples, um modelo é um trecho de código que usa uma entrada e produz uma saída.At its simplest, a model is a piece of code that takes an input and produces output. A criação de um modelo de aprendizado de máquina envolve a seleção de um algoritmo, o fornecimento de dados e o ajuste de hiperparâmetros.Creating a machine learning model involves selecting an algorithm, providing it with data, and tuning hyperparameters. O treinamento é um processo iterativo que produz um modelo treinado, que encapsula o modelo aprendido durante o processo de treinamento.Training is an iterative process that produces a trained model, which encapsulates what the model learned during the training process.

Você pode colocar um modelo que foi treinado fora do Azure Machine Learning.You can bring a model that was trained outside of Azure Machine Learning. Ou você pode treinar um modelo enviando uma execução de um experimento para um destino de computação no Azure Machine Learning.Or you can train a model by submitting a run of an experiment to a compute target in Azure Machine Learning. Depois de ter um modelo, Registre o modelo no espaço de trabalho.Once you have a model, you register the model in the workspace.

O Azure Machine Learning é independente do framework.Azure Machine Learning is framework agnostic. Quando você cria um modelo, pode usar qualquer estrutura de aprendizado de máquina conhecida, como Scikit-learn, XGBoost, PyTorch, TensorFlow e Chainer.When you create a model, you can use any popular machine learning framework, such as Scikit-learn, XGBoost, PyTorch, TensorFlow, and Chainer.

Para obter um exemplo de treinamento de um modelo usando Scikit-learn, consulte tutorial: treinar um modelo de classificação de imagem com Azure Machine Learning.For an example of training a model using Scikit-learn, see Tutorial: Train an image classification model with Azure Machine Learning.

Registro de modeloModel registry

Espaço de trabalho > Modelos doWorkspace > Models

O registro de modelo permite manter o controle de todos os modelos em seu espaço de trabalho Azure Machine Learning.The model registry lets you keep track of all the models in your Azure Machine Learning workspace.

Os modelos são identificados por nome e versão.Models are identified by name and version. Cada vez que você registra um modelo com o mesmo nome de um já existente, o registro pressupõe que se trata de uma nova versão.Each time you register a model with the same name as an existing one, the registry assumes that it's a new version. A versão é incrementada e o novo modelo é registrado com o mesmo nome.The version is incremented, and the new model is registered under the same name.

Você pode fornecer as marcas de metadados adicionais quando registrar o modelo e, em seguida, usar essas marcas ao procurar pelos modelos.When you register the model, you can provide additional metadata tags and then use the tags when you search for models.

Dica

Um modelo registrado é um contêiner lógico para um ou mais arquivos que compõem seu modelo.A registered model is a logical container for one or more files that make up your model. Por exemplo, se você tiver um modelo armazenado em vários arquivos, poderá registrá-los como um único modelo em seu workspace do Azure Machine Learning.For example, if you have a model that is stored in multiple files, you can register them as a single model in your Azure Machine Learning workspace. Após o registro, você pode baixar ou implantar o modelo registrado e receber todos os arquivos registrados.After registration, you can then download or deploy the registered model and receive all the files that were registered.

Não é possível excluir um modelo registrado que está sendo usado por uma implantação ativa.You can't delete a registered model that is being used by an active deployment.

Para obter um exemplo de registro de um modelo, consulte Treinar um modelo de classificação de imagem com o Azure Machine Learning.For an example of registering a model, see Train an image classification model with Azure Machine Learning.

ImplantaçãoDeployment

Você implanta um modelo registrado como um ponto de extremidade de serviço.You deploy a registered model as a service endpoint. Você precisa dos seguintes componentes:You need the following components:

  • Ambiente.Environment. Esse ambiente encapsula as dependências necessárias para executar seu modelo para a inferência.This environment encapsulates the dependencies required to run your model for inference.
  • Código de Pontuação.Scoring code. Esse script aceita solicitações, pontua as solicitações usando o modelo e retorna os resultados.This script accepts requests, scores the requests by using the model, and returns the results.
  • Configuração de inferência.Inference configuration. A configuração de inferência especifica o ambiente, o script de entrada e outros componentes necessários para executar o modelo como um serviço.The inference configuration specifies the environment, entry script, and other components needed to run the model as a service.

Para obter mais informações sobre esses componentes, consulte implantar modelos com Azure Machine Learning.For more information about these components, see Deploy models with Azure Machine Learning.

Pontos de extremidadeEndpoints

Espaço de trabalho > Pontos de extremidadeWorkspace > Endpoints

Um ponto de extremidade é uma instanciação do modelo em um serviço Web que pode ser hospedado na nuvem ou um módulo de IoT para implantações de dispositivos integrados.An endpoint is an instantiation of your model into either a web service that can be hosted in the cloud or an IoT module for integrated device deployments.

Ponto de extremidade de serviço WebWeb service endpoint

Ao implantar um modelo como um serviço Web, o ponto de extremidade pode ser implantado em instâncias de contêiner do Azure, serviço kubernetes do Azure ou FPGAs.When deploying a model as a web service, the endpoint can be deployed on Azure Container Instances, Azure Kubernetes Service, or FPGAs. O serviço é criado a partir de um modelo, script e arquivos associados.You create the service from your model, script, and associated files. Eles são colocados em uma imagem de contêiner de base, que contém o ambiente de execução do modelo.These are placed into a base container image, which contains the execution environment for the model. A imagem tem um balanceamento de carga, ponto de extremidade HTTP que recebe as solicitações de pontuação enviadas para o serviço Web.The image has a load-balanced, HTTP endpoint that receives scoring requests that are sent to the web service.

Você pode habilitar a telemetria Application Insights ou telemetria de modelo para monitorar seu serviço Web.You can enable Application Insights telemetry or model telemetry to monitor your web service. Os dados de telemetria só podem ser acessados por você.The telemetry data is accessible only to you. Ele é armazenado em suas instâncias de conta de armazenamento e Application Insights.It's stored in your Application Insights and storage account instances. Se você tiver habilitado o dimensionamento automático, o Azure dimensionará automaticamente sua implantação.If you've enabled automatic scaling, Azure automatically scales your deployment.

O diagrama a seguir mostra o fluxo de trabalho de inferência para um modelo implantado como um ponto de extremidade de serviço Web:The following diagram shows the inference workflow for a model deployed as a web service endpoint:

Estes são os detalhes:Here are the details:

  • O usuário registra um modelo por meio de um cliente como o SDK do Azure Machine Learning.The user registers a model by using a client like the Azure Machine Learning SDK.
  • O usuário cria uma imagem por meio de um modelo, um arquivo de pontuação e outras dependências de modelo.The user creates an image by using a model, a score file, and other model dependencies.
  • A imagem do Docker é criada e armazenada no Registro de Contêiner do Azure.The Docker image is created and stored in Azure Container Registry.
  • O serviço Web é implantado no destino de computação (Instâncias de Contêiner/AKS) usando a imagem criada na etapa anterior.The web service is deployed to the compute target (Container Instances/AKS) using the image created in the previous step.
  • Os detalhes da solicitação de pontuação são armazenados no Application Insights, o qual está na assinatura do usuário.Scoring request details are stored in Application Insights, which is in the user's subscription.
  • A telemetria também é enviada por push para a assinatura do Microsoft/Azure.Telemetry is also pushed to the Microsoft/Azure subscription.

Fluxo de trabalho da inferênciaInference workflow

Para obter um exemplo de implantação de um modelo como um serviço web, consulte Implantar um modelo de classificação de imagem nas Instâncias de Contêiner do Azure.For an example of deploying a model as a web service, see Deploy an image classification model in Azure Container Instances.

Pontos de extremidade em tempo realReal-time endpoints

Ao implantar um modelo treinado no designer, você pode implantar o modelo como um ponto de extremidade em tempo real.When you deploy a trained model in the designer, you can deploy the model as a real-time endpoint. Um ponto de extremidade em tempo real geralmente recebe uma única solicitação por meio do ponto de extremidade REST e retorna uma previsão em tempo real.A real-time endpoint commonly receives a single request via the REST endpoint and returns a prediction in real-time. Isso está em contraste com o processamento em lotes, que processa vários valores de uma vez e salva os resultados após a conclusão para um repositório de armazenamento.This is in contrast to batch processing, which processes multiple values at once and saves the results after completion to a datastore.

Pontos de extremidade do pipelinePipeline endpoints

Os pontos de extremidade de pipeline permitem chamar seus pipelines de ml programaticamente por meio de um ponto de extremidade REST.Pipeline endpoints let you call your ML Pipelines programatically via a REST endpoint. Os pontos de extremidade do pipeline permitem automatizar seus fluxos de trabalho de pipeline.Pipeline endpoints let you automate your pipeline workflows.

Um ponto de extremidade de pipeline é uma coleção de pipelines publicados.A pipeline endpoint is a collection of published pipelines. Essa organização lógica permite que você gerencie e chame vários pipelines usando o mesmo ponto de extremidade.This logical organization lets you manage and call multiple pipelines using the same endpoint. Cada pipeline publicado em um ponto de extremidade de pipeline tem controle de versão.Each published pipeline in a pipeline endpoint is versioned. Você pode selecionar um pipeline padrão para o ponto de extremidade ou especificar uma versão na chamada REST.You can select a default pipeline for the endpoint, or specify a version in the REST call.

Pontos de extremidade do módulo de IoTIoT module endpoints

Um ponto de extremidade do módulo de IoT implantado é um contêiner do Docker que inclui seu modelo, o script ou aplicativo associado e as dependências adicionais.A deployed IoT module endpoint is a Docker container that includes your model and associated script or application and any additional dependencies. Esses módulos são implantados usando o Azure IoT Edge em dispositivos de borda.You deploy these modules by using Azure IoT Edge on edge devices.

Se você tiver habilitado o monitoramento, o Azure coleta dados de telemetria do modelo de dentro do módulo do Azure IoT Edge.If you've enabled monitoring, Azure collects telemetry data from the model inside the Azure IoT Edge module. Os dados de telemetria estão acessíveis apenas para você e armazenados em sua instância de conta de armazenamento.The telemetry data is accessible only to you, and it's stored in your storage account instance.

O Azure IoT Edge garantirá que seu módulo esteja em execução e monitorará o dispositivo que está hospedando.Azure IoT Edge ensures that your module is running, and it monitors the device that's hosting it.

AutomaçãoAutomation

CLI do Azure Machine LearningAzure Machine Learning CLI

A CLI do Azure Machine Learning é uma extensão do CLI do Azure, uma interface de linha de comando de plataforma cruzada para a plataforma do Azure.The Azure Machine Learning CLI is an extension to the Azure CLI, a cross-platform command-line interface for the Azure platform. Essa extensão fornece comandos para automatizar suas atividades de aprendizado de máquina.This extension provides commands to automate your machine learning activities.

Pipelines de MLML Pipelines

Você usa pipelines de Machine Learning para criar e gerenciar fluxos de trabalho que unem as fases de aprendizado de máquina.You use machine learning pipelines to create and manage workflows that stitch together machine learning phases. Por exemplo, um pipeline pode incluir preparação de dados, treinamento de modelo, implantação de modelo e fases de inferência/pontuação.For example, a pipeline might include data preparation, model training, model deployment, and inference/scoring phases. Cada fase pode incluir várias etapas, cada uma delas pode ser executada de modo autônomo em vários destinos de computação.Each phase can encompass multiple steps, each of which can run unattended in various compute targets.

As etapas do pipeline são reutilizáveis e poderão ser executadas sem realizar novamente as etapas anteriores se o resultado dessas etapas não tiver sido alterado.Pipeline steps are reusable, and can be run without rerunning the previous steps if the output of those steps hasn't changed. Por exemplo, você poderá treinar novamente um modelo sem executar pela segunda vez as caras etapas de preparação de dados se os dados não forem alterados.For example, you can retrain a model without rerunning costly data preparation steps if the data hasn't changed. Os pipelines também permitem que cientistas de dados colaborem enquanto trabalham em áreas separadas de um fluxo de trabalho de aprendizado de máquina.Pipelines also allow data scientists to collaborate while working on separate areas of a machine learning workflow.

Monitoramento e registro em logMonitoring and logging

Azure Machine Learning fornece os seguintes recursos de monitoramento e registro em log:Azure Machine Learning provides the following monitoring and logging capabilities:

Interagindo com seu espaço de trabalhoInteracting with your workspace

EstúdioStudio

O Azure Machine Learning Studio fornece uma exibição da Web de todos os artefatos em seu espaço de trabalho.Azure Machine Learning studio provides a web view of all the artifacts in your workspace. Você pode exibir os resultados e os detalhes de seus conjuntos de informações, testes, pipelines, modelos e pontos de extremidade.You can view results and details of your datasets, experiments, pipelines, models, and endpoints. Você também pode gerenciar os recursos de computação e os repositórios de armazenamento no estúdio.You can also manage compute resources and datastores in the studio.

O estúdio também é onde você acessa as ferramentas interativas que fazem parte do Azure Machine Learning:The studio is also where you access the interactive tools that are part of Azure Machine Learning:

Ferramentas de programaçãoProgramming tools

Importante

As ferramentas marcadas (visualização) abaixo estão atualmente em visualização pública.Tools marked (preview) below are currently in public preview. A versão prévia é fornecida sem um contrato de nível de serviço e não é recomendada para cargas de trabalho de produção.The preview version is provided without a service level agreement, and it's not recommended for production workloads. Alguns recursos podem não ter suporte ou podem ter restrição de recursos.Certain features might not be supported or might have constrained capabilities. Para obter mais informações, consulte Termos de Uso Complementares de Versões Prévias do Microsoft Azure.For more information, see Supplemental Terms of Use for Microsoft Azure Previews.

Próximas etapasNext steps

Para começar a usar o Azure Machine Learning, confira:To get started with Azure Machine Learning, see: