Ausführen von Batchvorhersagen mit dem Azure Machine Learning-DesignerRun batch predictions using Azure Machine Learning designer

In diesem Artikel erfahren Sie, wie Sie den Designer zum Erstellen einer Batchvorhersagepipeline verwenden können.In this article, you learn how to use the designer to create a batch prediction pipeline. Mithilfe der Batchvorhersage können Sie kontinuierlich große Datasets bei Bedarf mit einem Webdienst bewerten, der von jeder HTTP-Bibliothek ausgelöst werden kann.Batch prediction lets you continuously score large datasets on-demand using a web service that can be triggered from any HTTP library.

In dieser Anleitung erfahren Sie, wie Sie die folgenden Aufgaben ausführen:In this how-to, you learn to do the following tasks:

  • Erstellen und Veröffentlichen einer BatchrückschlusspipelineCreate and publish a batch inference pipeline
  • Nutzen eines PipelineendpunktsConsume a pipeline endpoint
  • Verwalten von EndpunktversionenManage endpoint versions

Informationen zum Einrichten von Batchbewertungsdiensten mit dem SDK finden Sie in der begleitenden Anleitung.To learn how to set up batch scoring services using the SDK, see the accompanying how-to.

VoraussetzungenPrerequisites

Diese Anleitung geht davon aus, dass Sie bereits über eine Trainingspipeline verfügen.This how-to assumes you already have a training pipeline. Eine Einführung in den Designer finden Sie im ersten Teil des Designer-Tutorials.For a guided introduction to the designer, complete part one of the designer tutorial.

Wichtig

Falls die in diesem Dokument erwähnten grafischen Elemente bei Ihnen nicht angezeigt werden, z. B. Schaltflächen in Studio oder Designer, verfügen Sie unter Umständen nicht über die richtige Berechtigungsebene.If you do not see graphical elements mentioned in this document, such as buttons in studio or designer, you may not have the right level of permissions to the workspace. Wenden Sie sich an Ihren Azure-Abonnementadministrator, um sich zu vergewissern, dass Ihnen die richtige Zugriffsebene gewährt wurde.Please contact your Azure subscription administrator to verify that you have been granted the correct level of access. Weitere Informationen finden Sie unter Verwalten von Benutzern und Rollen.For more information, see Manage users and roles.

Erstellen einer BatchrückschlusspipelineCreate a batch inference pipeline

Zum Erstellen einer Rückschlusspipeline muss Ihre Trainingspipeline mindestens einmal ausgeführt werden.Your training pipeline must be run at least once to be able to create an inferencing pipeline.

  1. Wechseln Sie zur Registerkarte Designer in Ihrem Arbeitsbereich.Go to the Designer tab in your workspace.

  2. Wählen Sie die Trainingspipeline aus, mit der das Modell trainiert wird, mit dem Sie eine Vorhersage treffen möchten.Select the training pipeline that trains the model you want to use to make prediction.

  3. Übermitteln der PipelineSubmit the pipeline.

    Übermitteln der Pipeline

Nachdem die Trainingspipeline ausgeführt wurde, können Sie nun eine Batchrückschlusspipeline erstellen.Now that the training pipeline has been run, you can create a batch inference pipeline.

  1. Wählen Sie neben Übermitteln die neue Dropdownliste Rückschlusspipeline erstellen aus.Next to Submit, select the new dropdown Create inference pipeline.

  2. Wählen Sie Batchrückschlusspipeline aus.Select Batch inference pipeline.

    Erstellen einer Batchrückschlusspipeline

Das Ergebnis ist eine standardmäßige Batchrückschlusspipeline.The result is a default batch inference pipeline.

Hinzufügen eines PipelineparametersAdd a pipeline parameter

Um Vorhersagen für neue Daten zu erstellen, können Sie entweder manuell ein anderes Dataset in dieser Pipelineentwurfsansicht verbinden oder einen Parameter für Ihr Dataset erstellen.To create predictions on new data, you can either manually connect a different dataset in this pipeline draft view or create a parameter for your dataset. Mit Parametern können Sie das Verhalten des Batchrückschlussprozesses zur Laufzeit ändern.Parameters let you change the behavior of the batch inferencing process at runtime.

In diesem Abschnitt erstellen Sie einen Datasetparameter, um ein anderes Dataset anzugeben, für das Vorhersagen gemacht werden sollen.In this section, you create a dataset parameter to specify a different dataset to make predictions on.

  1. Wählen Sie das Datasetmodul aus.Select the dataset module.

  2. Rechts neben der Canvas wird ein Bereich angezeigt.A pane will appear to the right of the canvas. Wählen Sie am unteren Rand des Bereichs die Option Als Pipelineparameter festlegen aus.At the bottom of the pane, select Set as pipeline parameter.

    Geben Sie einen Namen für den Parameter ein, oder akzeptieren Sie den Standardwert.Enter a name for the parameter, or accept the default value.

    Festlegen des Datasets als PipelineparameterSet dataset as pipeline parameter

Veröffentlichen Ihrer BatchrückschlusspipelinePublish your batch inference pipeline

Jetzt sind Sie bereit, die Rückschlusspipeline bereitzustellen.Now you're ready to deploy the inference pipeline. Dadurch wird die Pipeline bereitgestellt und anderen zur Nutzung zur Verfügung gestellt.This will deploy the pipeline and make it available for others to use.

  1. Wählen Sie die Schaltfläche Veröffentlichen aus.Select the Publish button.

  2. Erweitern Sie im angezeigten Dialogfeld die Dropdownliste für PipelineEndpoint, und wählen Sie Neuer PipelineEndpoint aus.In the dialog that appears, expand the drop-down for PipelineEndpoint, and select New PipelineEndpoint.

  3. Geben Sie einen Endpunktnamen und eine optionale Beschreibung an.Provide an endpoint name and optional description.

    Unten im Dialogfeld wird der von Ihnen konfigurierte Parameter mit einem Standardwert der während des Trainings verwendeten Datensatz-ID angezeigt.Near the bottom of the dialog, you can see the parameter you configured with a default value of the dataset ID used during training.

  4. Wählen Sie Veröffentlichen.Select Publish.

Veröffentlichen einer Pipeline

Nutzen eines EndpunktsConsume an endpoint

Jetzt verfügen Sie über eine veröffentlichte Pipeline mit einem Datasetparameter.Now, you have a published pipeline with a dataset parameter. Die Pipeline verwendet das trainierte Modell, das in der Trainingspipeline erstellt wurde, um das von Ihnen als Parameter bereitgestellte Dataset zu bewerten.The pipeline will use the trained model created in the training pipeline to score the dataset you provide as a parameter.

Übermitteln einer PipelineausführungSubmit a pipeline run

In diesem Abschnitt richten Sie eine manuelle Pipelineausführung ein und ändern den Pipelineparameter, um neue Daten zu bewerten.In this section, you will set up a manual pipeline run and alter the pipeline parameter to score new data.

  1. Nachdem die Bereitstellung abgeschlossen ist, wechseln Sie zum Abschnitt Endpunkte.After the deployment is complete, go to the Endpoints section.

  2. Wählen Sie Pipelineendpunkte aus.Select Pipeline endpoints.

  3. Wählen Sie den Namen des von Ihnen erstellten Endpunkts aus.Select the name of the endpoint you created.

Endpunktlink

  1. Wählen Sie Veröffentlichte Pipelines aus.Select Published pipelines.

    Auf diesem Bildschirm werden alle unter diesem Endpunkt veröffentlichten Pipelines angezeigt.This screen shows all published pipelines published under this endpoint.

  2. Wählen Sie die veröffentlichte Pipeline aus.Select the pipeline you published.

    Auf der Seite mit den Pipelinedetails finden Sie ausführliche Informationen zum Ausführungsverlauf und zur Verbindungszeichenfolge für die Pipeline.The pipeline details page shows you a detailed run history and connection string information for your pipeline.

  3. Wählen Sie Übermitteln aus, um eine manuelle Ausführung der Pipeline zu erstellen.Select Submit to create a manual run of the pipeline.

    Pipelinedetails

  4. Ändern Sie den Parameter, um ein anderes Dataset zu verwenden.Change the parameter to use a different dataset.

  5. Wählen Sie Übermitteln aus, um die Pipeline auszuführen.Select Submit to run the pipeline.

Verwenden des REST-EndpunktsUse the REST endpoint

Informationen zur Verwendung von Pipelineendpunkten und der veröffentlichten Pipeline finden Sie im Abschnitt Endpunkte.You can find information on how to consume pipeline endpoints and published pipeline in the Endpoints section.

Den REST-Endpunkt eines Pipelineendpunkts finden Sie im Bereich der Ausführungsübersicht.You can find the REST endpoint of a pipeline endpoint in the run overview panel. Wenn Sie den Endpunkt aufrufen, nutzen Sie seine standardmäßig veröffentlichte Pipeline.By calling the endpoint, you are consuming its default published pipeline.

Sie können eine veröffentlichte Pipeline auch auf der Seite Veröffentlichte Pipelines nutzen.You can also consume a published pipeline in the Published pipelines page. Wenn Sie eine veröffentlichte Pipeline auswählen, finden Sie den REST-Endpunkt der Pipeline im Panel zur Übersicht über die veröffentliche Pipeline rechts neben dem Diagramm.Select a published pipeline and you can find the REST endpoint of it in the Published pipeline overview panel to the right of the graph.

Sie benötigen einen OAuth 2.0-Authentifizierungsheader vom Typ Bearer, um einen REST-Aufruf auszuführen.To make a REST call, you will need an OAuth 2.0 bearer-type authentication header. Weitere Informationen zum Einrichten der Authentifizierung für Ihren Arbeitsbereich und zum Erstellen eines parametrisierten REST-Aufrufes finden Sie im folgenden Tutorialabschnitt.See the following tutorial section for more detail on setting up authentication to your workspace and making a parameterized REST call.

VersionsverwaltungsendpunkteVersioning endpoints

Der Designer ordnet jeder nachfolgenden Pipeline, die Sie an einem Endpunkt veröffentlichen, eine Version zu.The designer assigns a version to each subsequent pipeline that you publish to an endpoint. Sie können die auszuführende Pipelineversion als Parameter in Ihrem REST-Aufruf angeben.You can specify the pipeline version that you want to execute as a parameter in your REST call. Wenn Sie keine Versionsnummer angeben, wird der Designer die Standardpipeline verwenden.If you don't specify a version number, the designer will use the default pipeline.

Wenn Sie eine Pipeline veröffentlichen, können Sie auswählen, dass sie zur neuen Standardpipeline für diesen Endpunkt wird.When you publish a pipeline, you can choose to make it the new default pipeline for that endpoint.

Festlegen der Standardpipeline

Sie können auch eine neue Standardpipeline auf der Registerkarte Veröffentlichte Pipelines Ihres Endpunkts festlegen.You can also set a new default pipeline in the Published pipelines tab of your endpoint.

Seite zum Festlegen der Standardpipeline in der veröffentlichten Pipeline

EinschränkungenLimitations

Wenn Sie in Ihrer Trainingspipeline Änderungen vornehmen, müssen Sie die Trainingspipeline erneut übermitteln, die Rückschlusspipeline aktualisieren und die Rückschlusspipeline erneut ausführen.If you make some modifications in your training pipeline, you should re-submit the training pipeline, Update the inference pipeline and run the inference pipeline again.

Beachten Sie, dass nur Modelle in der Rückschlusspipeline aktualisiert werden. Die Datentransformation wird dagegen nicht aktualisiert.Note that only models will be updated in the inference pipeline, while data transformation will not be updated.

Wenn Sie die aktualisierte Transformation in der Rückschlusspipeline verwenden möchten, müssen Sie die Transformationsausgabe des Transformationsmoduls als Dataset registrieren.To use the updated transformation in inference pipeline, you need to register the transformation output of the transformation module as dataset.

Screenshot: Registrieren des Transformationsdatasets

Ersetzen Sie dann manuell das Modul TD- in der Rückschlusspipeline durch das registrierte Dataset.Then manually replace the TD- module in inference pipeline with the registered dataset.

Screenshot: Ersetzen des Transformationsmoduls

Anschließend können Sie die Rückschlusspipeline mit dem aktualisierten Modell und der aktualisierten Transformation übermitteln und veröffentlichen.Then you can submit the inference pipeline with the updated model and transformation, and publish.

Nächste SchritteNext steps

Zum Trainieren und Bereitstellen eines Regressionsmodells befolgen Sie die Schritte im Designer-Tutorial.Follow the designer tutorial to train and deploy a regression model.

Informationen zum Veröffentlichen und Ausführen einer veröffentlichten Pipeline mit dem SDK finden Sie in diesem Artikel.For how to publish and run a published pipeline using SDK, see this article.