Feedback

az ml service

  • Referenz

Hinweis

Diese Referenz ist Teil der Azure-cli-ml-Erweiterung für die Azure CLI (Version 2.0.28 oder höher). Die Erweiterung installiert automatisch beim ersten Ausführen eines Az ml-Dienstbefehls . Weitere Informationen zu Erweiterungen

Verwalten von operationalisierten Diensten.

Befehle

az ml service delete

Löschen Sie einen Dienst aus dem Arbeitsbereich.
az ml service get-access-token

Rufen Sie ein Token ab, um Anforderungen an einen Dienst zu stellen.
az ml service get-keys

Abrufen von Schlüsseln zum Problem von Anforderungen für einen Dienst.
az ml service get-logs

Abrufen von Protokollen für einen Dienst.
az ml service list

Listen von Diensten im Arbeitsbereich auf.
az ml service regen-key

Generieren Sie Schlüssel für einen Dienst.
az ml service run

Führen Sie einen Dienst im Arbeitsbereich aus.
az ml service show

Details für einen Dienst im Arbeitsbereich anzeigen.
az ml service update

Aktualisieren eines Diensts im Arbeitsbereich.

az ml service delete

Löschen Sie einen Dienst aus dem Arbeitsbereich.

az ml service delete --name
                     [--path]
                     [--resource-group]
                     [--subscription-id]
                     [--workspace-name]
                     [-v]

Erforderliche Parameter

--name -n

Der zu löschende Dienstname.

Optionale Parameter

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den zu löschenden Dienst enthält.

-v

Verbosity-Flag.

az ml service get-access-token

Rufen Sie ein Token ab, um Anforderungen an einen Dienst zu stellen.

az ml service get-access-token --name
                               [--path]
                               [--resource-group]
                               [--subscription-id]
                               [--workspace-name]
                               [-v]

Erforderliche Parameter

--name -n

Service Name.

Optionale Parameter

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den Dienst enthält, der angezeigt werden soll.

-v

Verbosity-Flag.

az ml service get-keys

Abrufen von Schlüsseln zum Problem von Anforderungen für einen Dienst.

az ml service get-keys --name
                       [--path]
                       [--resource-group]
                       [--subscription-id]
                       [--workspace-name]
                       [-v]

Erforderliche Parameter

--name -n

Service Name.

Optionale Parameter

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den Dienst enthält, der angezeigt werden soll.

-v

Verbosity-Flag.

az ml service get-logs

Abrufen von Protokollen für einen Dienst.

az ml service get-logs --name
                       [--init]
                       [--num_lines]
                       [--path]
                       [--resource-group]
                       [--subscription-id]
                       [--workspace-name]
                       [-v]

Erforderliche Parameter

--name -n

Service Name.

Optionale Parameter

--init -i

Abrufen von Protokollen des Initcontainers anstelle des Bewertungscontainers.

--num_lines -l

Anzahl der Protokolllinien, die von tail zurückgegeben werden sollen (Standard ist 5000).

Standardwert: 5000
--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den Dienst enthält, der angezeigt werden soll.

-v

Verbosity-Flag.

az ml service list

Listen von Diensten im Arbeitsbereich auf.

az ml service list [--compute-type]
                   [--image-digest]
                   [--model-id]
                   [--model-name]
                   [--path]
                   [--property]
                   [--resource-group]
                   [--subscription-id]
                   [--tag]
                   [--workspace-name]
                   [-v]

Optionale Parameter

--compute-type -c

Wenn angegeben, werden nur Dienste angezeigt, die den angegebenen Berechnungstyp haben. (Optionen sind "ACI", "AKS").

--image-digest

Wenn angegeben, werden nur Dienste angezeigt, die über den angegebenen Bild digest verfügen.

--model-id

Wenn angegeben, werden nur Dienste angezeigt, die über die angegebene Modell-ID verfügen.

--model-name

Wenn angegeben, werden nur Dienste angezeigt, die den angegebenen Modellnamen haben.

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--property

Wenn angegeben, wird basierend auf dem bereitgestellten Schlüssel/Wert (z. B..key oder key=wert) gefiltert. Mehrere Eigenschaften können mit mehreren --Eigenschaftsoptionen angegeben werden.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--tag

Wenn angegeben, wird basierend auf dem bereitgestellten Schlüssel/Wert (z. B..key oder key=wert) gefiltert. Mehrere Tags können mit mehreren -Tag-Optionen angegeben werden.

--workspace-name -w

Name des Arbeitsbereichs, der die Zulisten der Dienste enthält.

-v

Verbosity-Flag.

az ml service regen-key

Generieren Sie Schlüssel für einen Dienst.

az ml service regen-key --key
                        --name
                        [--path]
                        [--resource-group]
                        [--set-key]
                        [--subscription-id]
                        [--workspace-name]
                        [-v]

Erforderliche Parameter

--key -k

Welcher Schlüssel zur Regeneriert werden soll, wenn regen angegeben wird. Optionen: Primär, Sekundär.

--name -n

Service Name.

Optionale Parameter

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--set-key -s

Geben Sie den Auth-Wert für den angegebenen Schlüssel an.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den Dienst enthält, der angezeigt werden soll.

-v

Verbosity-Flag.

az ml service run

Führen Sie einen Dienst im Arbeitsbereich aus.

az ml service run --name
                  [--input-data]
                  [--path]
                  [--resource-group]
                  [--subscription-id]
                  [--workspace-name]
                  [-v]

Erforderliche Parameter

--name -n

Der Dienstname, mit dem er bewertet werden soll.

Optionale Parameter

--input-data -d

Die daten, die zum Aufrufen des Webdiensts verwendet werden sollen.

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den Dienst enthält, der ausgeführt werden soll.

-v

Verbosity-Flag.

az ml service show

Details für einen Dienst im Arbeitsbereich anzeigen.

az ml service show --name
                   [--path]
                   [--resource-group]
                   [--subscription-id]
                   [--workspace-name]
                   [-v]

Erforderliche Parameter

--name -n

Name des zu anzeigenden Webdiensts.

Optionale Parameter

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--subscription-id

Gibt die Abonnement-ID an.

--workspace-name -w

Name des Arbeitsbereichs, der den Dienst enthält, der angezeigt werden soll.

-v

Verbosity-Flag.

az ml service update

Aktualisieren eines Diensts im Arbeitsbereich.

az ml service update --name
                     [--add-property]
                     [--add-tag]
                     [--ae]
                     [--ai]
                     [--ar]
                     [--as]
                     [--at]
                     [--autoscale-max-replicas]
                     [--autoscale-min-replicas]
                     [--base-image]
                     [--base-image-registry]
                     [--cc]
                     [--ccl]
                     [--cf]
                     [--collect-model-data]
                     [--compute-target]
                     [--cuda-version]
                     [--dc]
                     [--description]
                     [--dn]
                     [--ds]
                     [--ed]
                     [--eg]
                     [--entry-script]
                     [--environment-name]
                     [--environment-version]
                     [--failure-threshold]
                     [--gb]
                     [--gbl]
                     [--gc]
                     [--ic]
                     [--id]
                     [--is-migration]
                     [--kp]
                     [--ks]
                     [--lo]
                     [--max-request-wait-time]
                     [--model]
                     [--model-metadata-file]
                     [--no-wait]
                     [--nr]
                     [--path]
                     [--period-seconds]
                     [--po]
                     [--remove-tag]
                     [--replica-max-concurrent-requests]
                     [--resource-group]
                     [--rt]
                     [--sc]
                     [--scoring-timeout-ms]
                     [--sd]
                     [--se]
                     [--sk]
                     [--sp]
                     [--st]
                     [--subscription-id]
                     [--timeout-seconds]
                     [--token-auth-enabled]
                     [--workspace-name]
                     [-v]

Erforderliche Parameter

--name -n

Der zu aktualisierende Dienstname.

Optionale Parameter

--add-property

Key/Value-Eigenschaft, die hinzugefügt werden soll (z. B..key=Wert). Mehrere Eigenschaften können mit mehreren --add-property-Optionen angegeben werden.

--add-tag

Schlüssel-/Werttag zum Hinzufügen (z. B..key=Wert). Mehrere Tags können mit mehreren Add-Tag-Optionen angegeben werden.

--ae --auth-enabled

Gibt an, ob die Schlüsselauthentifizierung für diesen Webdienst aktiviert werden soll. Der Standardwert lautet „False“.

--ai --enable-app-insights

Gibt an, ob für diesen Webdienst AppInsights aktiviert werden soll. Der Standardwert lautet „False“.

--ar --autoscale-refresh-seconds

Gibt an, wie oft die Autoskalierung versuchen soll, diesen Webdienst zu skalieren. Der Standardwert lautet 1.

--as --autoscale-enabled

Gibt an, ob die automatische Skalierung für diesen Webdienst aktiviert werden soll. Der Standardwert ist „True“, wenn num_replicas „None“ ist.

--at --autoscale-target-utilization

Die Zielauslastung (in Prozent bis 100), die die Autoskalierung für den Webdienst nach Möglichkeit aufrechterhalten soll. Der Standardwert ist 70.

--autoscale-max-replicas --ma

Die maximale Anzahl von Containern, die bei der automatischen Skalierung dieses Webdiensts verwendet werden sollen. Der Standardwert ist 10.

--autoscale-min-replicas --mi

Die Mindestanzahl von Containern, die bei der automatischen Skalierung dieses Webdiensts verwendet werden sollen. Der Standardwert lautet 1.

--base-image --bi

Ein benutzerdefiniertes Image, das als Basisimage verwendet werden soll. Wenn kein Basisimage angegeben wird, wird das Basisimage basierend auf dem angegebenen Runtimeparameter verwendet.

--base-image-registry --ir

Imageregistrierung, die das Basisimage enthält.

--cc --cpu-cores

Die Anzahl von CPU-Kernen, die für diesen Webdienst zugeordnet werden sollen. Dabei kann es sich um eine Dezimalzahl handeln. Der Standardwert ist 0,1.

--ccl --cpu-cores-limit

Maximale Anzahl der CPU-Kerne, die dieser Webdienst verwenden darf. Kann eine Dezimalzahl sein.

--cf --conda-file

Pfad zur lokalen Datei, die eine für das Image zu verwendende Conda-Umgebungsdefinition enthält.

--collect-model-data --md

Gibt an, ob die Modelldatensammlung für diesen Webdienst aktiviert werden soll. Der Standardwert lautet „False“.

--compute-target

(Vorschau) Gibt das Berechnungsziel mit der AzureML-Erweiterung an, die installiert ist, um migrierte Kubernetes Online-Endpunkt und -Bereitstellung zu hosten.

--cuda-version --cv

CUDA-Version, die für Images installiert wird, die GPU-Unterstützung benötigen. Das GPU-Image muss in Microsoft Azure-Diensten wie Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines und Azure Kubernetes Service verwendet werden. Unterstützt werden die Versionen 9.0, 9.1 und 10.0. Wenn „enable_gpu“ festgelegt ist, wird standardmäßig „9.1“ verwendet.

--dc --deploy-config-file

Pfad zu einer JSON-Datei mit Bereitstellungsmetadaten.

--description -d

Beschreibung des Diensts

--dn --dns-name-label

Der DNS-Name für diesen Webservice.

--ds --extra-docker-file-steps

Pfad zur lokalen Datei mit zusätzlichen Docker-Schritten, die bei der Einrichtung des Images ausgeführt werden.

--ed --environment-directory

Verzeichnis für Azure Machine Learning Environment für die Bereitstellung. Es ist der gleiche Verzeichnispfad wie im Befehl "az ml environment scaffold" angegeben.

--eg --enable-gpu

Gibt an, ob die GPU-Unterstützung im Image aktiviert werden soll. Das GPU-Image muss in Microsoft Azure-Diensten wie Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines und Azure Kubernetes Service verwendet werden. Der Standardwert lautet „False“.

--entry-script --es

Pfad zu lokaler Datei, die den Code enthält, der für den Dienst ausgeführt werden soll (relativer Pfad von source_directory, wenn eine bereitgestellt wird).

--environment-name -e

Name der Azure Machine Learning-Umgebung für die Bereitstellung.

--environment-version --ev

Version einer vorhandenen Azure Machine Learning-Umgebung für die Bereitstellung.

--failure-threshold --ft

Wenn ein Pod gestartet wird und der Liveness-Prüfpunkt fehlschlägt, versucht Kubernetes vor dem Aufgeben --Fehler-Schwellenwerte. Der Standardwert ist 3. Der Mindestwert ist 1.

--gb --memory-gb

Menge an Arbeitsspeicher (in GB), die für diesen Webdienst zugeordnet werden soll. Kann eine Dezimalzahl sein.

--gbl --memory-gb-limit

Die maximale Arbeitsspeichermenge (in GB), die von diesem Webdienst verwendet werden darf. Kann eine Dezimalzahl sein.

--gc --gpu-cores

Die Anzahl der GPU-Kerne, die für diesen Webdienst zugewiesen werden sollen. Der Standardwert ist 1.

--ic --inference-config-file

Pfad zu einer JSON- oder YAML-Datei, die eine Inferencekonfiguration enthält.

--id --initial-delay-seconds

Die Anzahl der Sekunden, die nach dem Start des Containers vergehen, bevor Livetests initiiert werden. Der Standardwert ist 310.

--is-migration

(Vorschau) Unabhängig davon, ob AKS-Webdienst zu Kubernetes Online-Endpunkt und -Bereitstellung migriert werden soll. Der Standardwert lautet „False“.

--kp --primary-key

Ein primärer Authentifizierungsschlüssel, der für diesen Webdienst verwendet werden soll

--ks --secondary-key

Ein sekundärer Authentifizierungsschlüssel, der für diesen Webdienst verwendet werden soll

--lo --location

Die Azure-Region, in der dieser Webdienst bereitgestellt werden soll. Wenn keine Region angegeben ist, wird der Standort des Arbeitsbereichs verwendet. Weitere Informationen zu verfügbaren Regionen finden Sie hier: https://azure.microsoft.com/en-us/global-infrastructure/services/?regions=all&products=container-instances.

--max-request-wait-time --mr

Die maximale Zeitspanne, die eine Anforderung in der Warteschlange verbleibt (in Millisekunden), bevor der Fehler 503 zurückgegeben wird. Standardwerte auf 500.

--model -m

Die ID des zu bereitstellenden Modells. Mehrere Modelle können mit zusätzlichen -m-Argumenten angegeben werden. Modelle müssen zuerst registriert werden.

--model-metadata-file -f

Pfad zu einer JSON-Datei mit Modellregistrierungsmetadaten. Mehrere Modelle können mithilfe mehrerer -f-Parameter bereitgestellt werden.

--no-wait

Kennzeichnen, um nicht auf asynchrone Anrufe zu warten.

--nr --num-replicas

Die Anzahl von Containern, die für diesen Webdienst zugeordnet werden sollen. Für diese gibt es keinen Standardwert. Wenn dieser Parameter nicht festgelegt wird, wird die Autoskalierung automatisch aktiviert.

--path

Pfad zu einem Projektordner. Standard: aktuelles Verzeichnis.

--period-seconds --ps

Gibt an, wie häufig (in Sekunden) ein Livetest durchgeführt werden soll. Der Standardwert ist 10 Sekunden. Der Mindestwert ist 1.

--po --port

Der lokale Port, auf dem der HTTP-Endpunkt des Diensts verfügbar gemacht werden soll.

--remove-tag

Schlüssel des zu entfernenden Tags. Mehrere Tags können mit mehreren --remove-tag-Optionen angegeben werden.

--replica-max-concurrent-requests --rm

Die Anzahl der maximalen gleichzeitigen Anforderungen pro Knoten, die für diesen Webdienst zulässig sind. Der Standardwert lautet 1.

--resource-group -g

Ressourcengruppe, die dem bereitgestellten Arbeitsbereich entspricht.

--rt --runtime

Welche Laufzeit für das Bild verwendet werden soll. Aktuelle unterstützte Laufzeiten sind "spark-py" und "python"spark-py|python|python-slim.

--sc --ssl-cname

Der CNAME, wenn SSL aktiviert ist. Gilt nur beim Aktualisieren eines ACI-Diensts.

--scoring-timeout-ms --tm

Eine Zeitüberschreitung, die für Bewertungsaufrufe an diesen Webdienst erzwungen wird. Der Standardwert ist 60000.

--sd --source-directory

Pfad zu Ordnern, die alle Dateien zum Erstellen des Images enthalten.

--se --ssl-enabled

Gibt an, ob für diesen Webdienst SSL aktiviert werden soll. Der Standardwert lautet „False“.

--sk --ssl-key-pem-file

Die benötigte KEY-Datei, wenn SSL aktiviert ist.

--sp --ssl-cert-pem-file

Die benötigte CERT-Datei, wenn SSL aktiviert ist.

--st --success-threshold

Die Anzahl der Erfolge, die mindestens aufeinander folgen müssen, damit ein Livetest nach einem Fehler wieder als erfolgreich betrachtet wird. Der Standardwert lautet 1. Der Mindestwert ist 1.

--subscription-id

Gibt die Abonnement-ID an.

--timeout-seconds --ts

Die Anzahl von Sekunden, nach denen das Zeitlimit für den Livetest überschritten ist. Der Standardwert ist 2 Sekunden. Der Mindestwert ist 1.

--token-auth-enabled

Gibt an, ob die Tokenauth für diesen Webdienst aktiviert werden soll. Nur für AKS-Webdienste verfügbar. Der Standardwert lautet „False“.

--workspace-name -w

Name des Arbeitsbereichs, der den zu aktualisierenden Dienst enthält.

-v

Verbosity-Flag.