Freigeben über

az ml online-deployment

  • Referenz

Hinweis

Diese Referenz ist Teil der ml-Erweiterung für die Azure CLI (Version 2.15.0 oder höher). Die Erweiterung wird automatisch installiert, wenn Sie einen Az ml Onlinebereitstellungsbefehl zum ersten Mal ausführen. Weitere Informationen zu Erweiterungen

Verwalten von Azure ML-Onlinebereitstellungen.

Azure ML-Bereitstellungen bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen.

Befehle

Name Beschreibung Typ Status
az ml online-deployment create

Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.

 Erweiterung Allgemein verfügbar
az ml online-deployment delete

Löscht eine Bereitstellung.

 Erweiterung Allgemein verfügbar
az ml online-deployment get-logs

Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.

 Erweiterung Allgemein verfügbar
az ml online-deployment list

Auflisten von Bereitstellungen.

 Erweiterung Allgemein verfügbar
az ml online-deployment show

Anzeigen einer Bereitstellung.

 Erweiterung Allgemein verfügbar
az ml online-deployment update

Aktualisieren sie eine Bereitstellung.

 Erweiterung Allgemein verfügbar

az ml online-deployment create

Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.

Die empfohlene Compute-SKU ist Standard_DS3_v2 für endpunkte allgemeine Zwecke. Weitere Informationen zu SKUs finden Sie hier: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Beispiele

Erstellen einer Bereitstellung aus einer YAML-Spezifikationsdatei

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--all-traffic

Legt Endpunktdatenverkehr auf 100 % auf diese Bereitstellung nach erfolgreicher Erstellung fest, funktioniert nicht mit --no-wait.

Standardwert: False
--endpoint-name -e

Name des Onlineendpunkts.

--local

Erstellen Sie die Bereitstellung lokal mithilfe von Docker. Pro Endpunkt ist nur eine Bereitstellung zulässig. Hinweis: Wenn der angegebene Endpunkt nicht vorhanden ist, wird er erstellt.

Zulässige Werte: false, true
Standardwert: False
--local-enable-gpu

Aktivieren Sie GPU für die lokale Bereitstellung.

Zulässige Werte: false, true
Standardwert: False
--name -n

Name der Bereitstellung

--no-wait

Nicht auf den Abschluss lang andauernder Vorgänge warten

Standardwert: False
--package-model

[DIES BEFINDET SICH IN DER VORSCHAU] Erstellen Sie eine verpackte Umgebung aus dem Bereitstellungs-Yaml, und verwenden Sie die verpackte Umgebung für die Bereitstellung.

Standardwert: False
--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=.

--skip-script-validation

Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.

Standardwert: False
--vscode-debug

Erstellen Sie einen lokalen Endpunkt, und fügen Sie den VSCode-Debugger an. Funktioniert nur mit --local flag.

Zulässige Werte: false, true
Standardwert: False
--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-deployment delete

Löscht eine Bereitstellung.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Beispiele

Löschen einer Bereitstellung mit Bestätigung

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--local

Löschen Sie die lokale Bereitstellung aus der Docker-Umgebung.

Zulässige Werte: false, true
Standardwert: False
--no-wait

Nicht auf den Abschluss lang andauernder Vorgänge warten

Standardwert: False
--yes -y

Nicht zur Bestätigung auffordern

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-deployment get-logs

Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Beispiele

Abrufen der Containerprotokolle für eine Onlinebereitstellung

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--container -c

Der Containertyp, aus dem Protokolle abgerufen werden sollen. Zulässige Werte: Inference-Server, Storage-Initializer.

--lines -l

Die maximale Anzahl von Linien bis zum Schwanz.

Standardwert: 5000
--local

Abrufen von Protokollen aus der lokalen Bereitstellung in der Docker-Umgebung.

Zulässige Werte: false, true
Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-deployment list

Auflisten von Bereitstellungen.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Beispiele

Auflisten der Bereitstellung in einem Endpunkt

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Endpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--local

Auflisten der lokalen Bereitstellung unter diesem lokalen Endpunkt.

Zulässige Werte: false, true
Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-deployment show

Anzeigen einer Bereitstellung.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Beispiele

Anzeigen einer Bereitstellung

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--local

Lokale Bereitstellung aus Docker-Umgebung anzeigen.

Zulässige Werte: false, true
Standardwert: False
--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-deployment update

Aktualisieren sie eine Bereitstellung.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Beispiele

Aktualisieren einer Bereitstellung aus einer YAML-Spezifikationsdatei

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--add

Fügen Sie einer Liste von Objekten ein Objekt hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>.

Standardwert: []
--endpoint-name -e

Name des Onlineendpunkts.

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--force-string

Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgenliterale bei, anstatt zu versuchen, in JSON zu konvertieren.

Standardwert: False
--local

Aktualisieren sie die lokale Bereitstellung in der Docker-Umgebung.

Zulässige Werte: false, true
Standardwert: False
--local-enable-gpu

Aktivieren Sie GPU für die lokale Bereitstellung.

Zulässige Werte: false, true
Standardwert: False
--name -n

Name der Bereitstellung

--no-wait

Nicht auf den Abschluss lang andauernder Vorgänge warten

Standardwert: False
--remove

Entfernen sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list <indexToRemove> ODER --remove propertyToRemove.

Standardwert: []
--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=<value>.

Standardwert: []
--skip-script-validation

Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.

Standardwert: False
--vscode-debug

Aktualisieren Des lokalen Endpunkts und erneutes Anfügen des VSCode-Debuggers. Funktioniert nur mit --local flag.

Zulässige Werte: false, true
Standardwert: False
--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.