az ml online-deployment

Referenz

Anmerkung

Diese Referenz ist Teil der ml Erweiterung für die Azure CLI (Version 2.15.0 oder höher). Die Erweiterung wird automatisch installiert, wenn Sie einen az ml Onlinebereitstellungsbefehl ausführen. Erfahren Sie mehr über Erweiterungen.

Verwalten von Azure ML-Onlinebereitstellungen.

Azure ML-Bereitstellungen bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen.

Befehle

Name	Beschreibung	Typ	Status
az ml online-deployment create	Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.	Erweiterung	GA
az ml online-deployment delete	Löschen sie eine Bereitstellung.	Erweiterung	GA
az ml online-deployment get-logs	Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.	Erweiterung	GA
az ml online-deployment list	Auflisten von Bereitstellungen.	Erweiterung	GA
az ml online-deployment show	Anzeigen einer Bereitstellung.	Erweiterung	GA
az ml online-deployment update	Aktualisieren sie eine Bereitstellung.	Erweiterung	GA

az ml online-deployment create

Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.

Die empfohlene Compute-SKU ist Standard_DS3_v2 für endpunkte allgemeine Zwecke. Weitere Informationen zu SKUs finden Sie hier: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Beispiele

Erstellen einer Bereitstellung aus einer YAML-Spezifikationsdatei

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>konfigurieren.

Optionale Parameter

--all-traffic

Legt endpunktverkehr 100% auf diese Bereitstellung nach erfolgreicher Erstellung fest, funktioniert nicht mit --no-wait.

Standardwert: False

--endpoint-name -e

Name des Onlineendpunkts.

--local

Erstellen Sie die Bereitstellung lokal mithilfe von Docker. Pro Endpunkt ist nur eine Bereitstellung zulässig. Hinweis: Wenn der angegebene Endpunkt nicht vorhanden ist, wird er erstellt.

Zulässige Werte: false, true

Standardwert: False

--local-enable-gpu

Aktivieren Sie GPU für die lokale Bereitstellung.

Zulässige Werte: false, true

Standardwert: False

--name -n

Name der Bereitstellung.

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.

Standardwert: False

--package-model

[DIES BEFINDET SICH IN DER VORSCHAU] Erstellen Sie eine verpackte Umgebung aus dem Bereitstellungs-Yaml, und verwenden Sie die verpackte Umgebung für die Bereitstellung.

Standardwert: False

--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=value.

--skip-script-validation

Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.

Standardwert: False

--vscode-debug

Erstellen Sie einen lokalen Endpunkt, und fügen Sie den VSCode-Debugger an. Funktioniert nur mit --local flag.

Zulässige Werte: false, true

Standardwert: False

--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Standardwert: False

Globale Parameter

--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

--help -h

Diese Hilfenachricht anzeigen und beenden.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc

Standardwert: json

--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

az ml online-deployment delete

Löschen sie eine Bereitstellung.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Beispiele

Löschen einer Bereitstellung mit Bestätigung

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>konfigurieren.

Optionale Parameter

--local

Löschen Sie die lokale Bereitstellung aus der Docker-Umgebung.

Zulässige Werte: false, true

Standardwert: False

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.

Standardwert: False

--yes -y

Zur Bestätigung nicht auffordern.

Standardwert: False

Globale Parameter

--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

--help -h

Diese Hilfenachricht anzeigen und beenden.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc

Standardwert: json

--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

az ml online-deployment get-logs

Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Beispiele

Abrufen der Containerprotokolle für eine Onlinebereitstellung

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>konfigurieren.

Optionale Parameter

--container -c

Der Containertyp, aus dem Protokolle abgerufen werden sollen. Zulässige Werte: Inference-Server, Storage-Initializer.

--lines -l

Die maximale Anzahl von Linien bis zum Schwanz.

Standardwert: 5000

--local

Abrufen von Protokollen aus der lokalen Bereitstellung in der Docker-Umgebung.

Zulässige Werte: false, true

Standardwert: False

Globale Parameter

--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

--help -h

Diese Hilfenachricht anzeigen und beenden.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc

Standardwert: json

--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

az ml online-deployment list

Auflisten von Bereitstellungen.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Beispiele

Auflisten der Bereitstellung in einem Endpunkt

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Endpunkts.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>konfigurieren.

Optionale Parameter

--local

Auflisten der lokalen Bereitstellung unter diesem lokalen Endpunkt.

Zulässige Werte: false, true

Standardwert: False

Globale Parameter

--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

--help -h

Diese Hilfenachricht anzeigen und beenden.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc

Standardwert: json

--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

az ml online-deployment show

Anzeigen einer Bereitstellung.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Beispiele

Anzeigen einer Bereitstellung

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>konfigurieren.

Optionale Parameter

--local

Lokale Bereitstellung aus Docker-Umgebung anzeigen.

Zulässige Werte: false, true

Standardwert: False

--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Standardwert: False

Globale Parameter

--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

--help -h

Diese Hilfenachricht anzeigen und beenden.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc

Standardwert: json

--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

az ml online-deployment update

Aktualisieren sie eine Bereitstellung.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Beispiele

Aktualisieren einer Bereitstellung aus einer YAML-Spezifikationsdatei

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>konfigurieren.

Optionale Parameter

--add

Fügen Sie einer Liste von Objekten ein Objekt hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>.

Standardwert: []

--endpoint-name -e

Name des Onlineendpunkts.

--file -f

--force-string

Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgenliterale bei, anstatt zu versuchen, in JSON zu konvertieren.

Standardwert: False

--local

Aktualisieren sie die lokale Bereitstellung in der Docker-Umgebung.

Zulässige Werte: false, true

Standardwert: False

--local-enable-gpu

Aktivieren Sie GPU für die lokale Bereitstellung.

Zulässige Werte: false, true

Standardwert: False

--name -n

Name der Bereitstellung.

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.

Standardwert: False

--remove

Entfernen sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list <indexToRemove> ODER --remove propertyToRemove.

Standardwert: []

--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=<value>.

Standardwert: []

--skip-script-validation

Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.

Standardwert: False

--vscode-debug

Aktualisieren Des lokalen Endpunkts und erneutes Anfügen des VSCode-Debuggers. Funktioniert nur mit --local flag.

Zulässige Werte: false, true

Standardwert: False

--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Standardwert: False

Globale Parameter

--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

--help -h

Diese Hilfenachricht anzeigen und beenden.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc

Standardwert: json

--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Freigeben über

az ml online-deployment

Befehle

az ml online-deployment create

Beispiele

Erforderliche Parameter

Optionale Parameter

az ml online-deployment delete

Beispiele

Erforderliche Parameter

Optionale Parameter

az ml online-deployment get-logs

Beispiele

Erforderliche Parameter

Optionale Parameter

az ml online-deployment list

Beispiele

Erforderliche Parameter

Optionale Parameter

az ml online-deployment show

Beispiele

Erforderliche Parameter

Optionale Parameter

az ml online-deployment update

Beispiele

Erforderliche Parameter

Optionale Parameter

Zusätzliche Ressourcen