Feedback

az ml online-endpoint

  • Referenz

Hinweis

Dieser Verweis ist Teil der ml-Erweiterung für die Azure CLI (Version 2.15.0 oder höher). Die Erweiterung installiert automatisch beim ersten Ausführen eines Az ml Online-Endpunktbefehls . Weitere Informationen zu Erweiterungen

Verwalten von Azure ML Online-Endpunkten.

Azure ML-Endpunkte bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen. Jeder Endpunkt kann über eine oder mehrere Bereitstellungen verfügen, sodass der Datenverkehr von einem einzelnen Bewertungsendpunkt bei Bedarf für mehrere Bereitstellungen bereitgestellt werden kann. Dies ist nützlich für Szenarien wie das kontrollierte Rollout.

Azure ML unterstützt zwei Arten von Endpunkten: Online und Batch. Onlineendpunkte unterstützen echtzeitbasierte Schlussfolgerungen, während Batchendpunkte für die Offlinebatchbewertung verwendet werden.

Befehle

az ml online-endpoint create

Erstellen Sie einen Endpunkt.
az ml online-endpoint delete

Löschen eines Endpunkts.
az ml online-endpoint get-credentials

Listen Sie die Token/Schlüssel für einen Onlineendpunkt auf.
az ml online-endpoint invoke

Rufen Sie einen Endpunkt auf.
az ml online-endpoint list

Auflisten von Endpunkten in einem Arbeitsbereich.
az ml online-endpoint regenerate-keys

Generieren Sie die Schlüssel für einen Onlineendpunkt neu.
az ml online-endpoint show

Details für einen Endpunkt anzeigen.
az ml online-endpoint update

Aktualisieren eines Endpunkts.

az ml online-endpoint create

Erstellen Sie einen Endpunkt.

Um einen Endpunkt zu erstellen, stellen Sie eine YAML-Datei mit Batchendpunktkonfiguration bereit. Wenn der Endpunkt bereits vorhanden ist, wird er mit den neuen Einstellungen überschreiben.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]

Beispiele

Erstellen eines Endpunkts aus einer YAML-Spezifikationsdatei

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--auth-mode

Authentifizierungsmethode für den Endpunkt. Zulässige Werte: Schlüssel, aml_token. Standard: Taste.

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Online-Endpunktspezifikation enthält. Die YAML-Referenzdokumente für Onlineendpunkt finden Sie unter: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Erstellen Sie den Endpunkt lokal. Hinweis: Datenverkehr und Authentifizierung werden lokal nicht unterstützt. Sie können "az ml online-deployment create --local" direkt verwenden. Er erstellt einen Endpunkt, wenn kein Endpunkt vorhanden ist.

Zulässige Werte: false, true
--name -n

Name des Onlineendpunkts.

--no-wait

Warten Sie nicht, bis der lange Ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

--set

Aktualisieren Sie ein Objekt, indem Sie einen Eigenschaftspfad und einen festzulegenden Wert angeben. Beispiel: --set property1.property2=.

az ml online-endpoint delete

Löschen eines Endpunkts.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Beispiele

Löschen eines Onlineendpunkts, einschließlich aller Bereitstellungen

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--local

Löschen Sie den lokalen Endpunkt.

Zulässige Werte: false, true
--no-wait

Warten Sie nicht, bis der lange Ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

--yes -y

Nicht zur Bestätigung auffordern

az ml online-endpoint get-credentials

Listen Sie die Token/Schlüssel für einen Onlineendpunkt auf.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Beispiele

Auflisten der Schlüssel für einen Onlineendpunkt

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

az ml online-endpoint invoke

Rufen Sie einen Endpunkt auf.

Sie können einen Onlineendpunkt mit einigen Anforderungsdaten aufrufen. Dies wird echtzeitbasierte Schlussfolgerungen sein, und die Bewertungsergebnisse werden sofort zurückgegeben.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Beispiele

Aufrufen eines Onlineendpunkts mit einigen Anforderungsdaten

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Aufrufen eines Onlineendpunkts für eine bestimmte Bereitstellung

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--deployment-name -d

Name der zu zielbasierten Bereitstellung.

--local

Rufen Sie den lokalen Endpunkt auf. Dies funktioniert nur, wenn eine lokale Bereitstellung für diesen Endpunkt erstellt wurde.

Zulässige Werte: false, true
--request-file -r

Lokaler Pfad zur JSON-Datei, die die Anforderungsdaten enthält.

az ml online-endpoint list

Listenendpunkte in einem Arbeitsbereich auf.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Beispiele

Alle Online-Endpunkte in einem Arbeitsbereich auflisten

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Alle Batchendpunkte in einem Arbeitsbereich auflisten

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Listet alle Onlineendpunkte in einem Arbeitsbereich mit dem Argument "-Query" auf, um eine JMESPath-Abfrage auf den Ergebnissen von Befehlen auszuführen.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--local

Alle lokalen Endpunkte auflisten.

Zulässige Werte: false, true

az ml online-endpoint regenerate-keys

Generieren Sie die Schlüssel für einen Onlineendpunkt.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Beispiele

Regenerieren der Schlüssel für einen Onlineendpunkt

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--key-type

Der Schlüsseltyp, der neu generiert werden soll. Zulässige Werte: primär, sekundär.

Standardwert: primary
--no-wait

Warten Sie nicht, bis der lang ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

az ml online-endpoint show

Details für einen Endpunkt anzeigen.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]

Beispiele

Anzeigen der Details für einen Batchendpunkt

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Zeigen Sie den Bereitstellungszustand eines Endpunkts mit dem Argument --query an, um eine JMESPath-Abfrage auf den Ergebnissen von Befehlen auszuführen.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--local

Lokaler Endpunkt anzeigen.

Zulässige Werte: false, true

az ml online-endpoint update

Aktualisieren eines Endpunkts.

Die Eigenschaften "Beschreibung", "Tags" und "Datenverkehr" eines Endpunkts können aktualisiert werden. Darüber hinaus können neue Bereitstellungen einem Endpunkt hinzugefügt werden, und vorhandene Bereitstellungen können aktualisiert werden.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]

Beispiele

Aktualisieren eines Endpunkts aus einer YAML-Spezifikationsdatei

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Aktualisieren der Datenverkehrseinstellungen für einen Endpunkt

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können die Standardgruppe mit az configure --defaults workspace=<name> konfigurieren.

Optionale Parameter

--add

Fügen Sie einem Objekt eine Liste von Objekten hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>.

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML Online-Endpunktspezifikation enthält. Die YAML-Referenzdokumente für Online-Endpunkt finden Sie unter: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference

--force-string

Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgen literale beibehalten, anstatt zu versuchen, in JSON zu konvertieren.

--local

Aktualisieren des lokalen Endpunkts.

Zulässige Werte: false, true
--mirror-traffic

Leitet einen duplizierten Prozentsatz des Live-Datenverkehrs an eine Bereitstellung.

--name -n

Name des Onlineendpunkts.

--no-wait

Warten Sie nicht, bis der lang ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

--remove

Entfernen Sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list OR --remove propertyToRemove.

--set

Aktualisieren Sie ein Objekt, indem Sie einen Eigenschaftenpfad und einen wert angeben, der festgelegt werden soll. Beispiel: --set-property1.property2=.

--traffic -r

Leergetrennte Schlüsselwertpaare in Anführungszeichen für die Datenverkehrseinstellungen für den Endpunkt.