Compartir a través de

az ml online-endpoint

  • Referencia

Nota:

Esta referencia forma parte de la extensión ml para la CLI de Azure (versión 2.15.0 o posterior). La extensión instalará automáticamente la primera vez que ejecute un comando az ml online-endpoint . Obtenga más información sobre las extensiones.

Administración de puntos de conexión en línea de Azure ML.

Los puntos de conexión de Azure ML proporcionan una interfaz sencilla para crear y administrar implementaciones de modelos. Cada punto de conexión puede tener una o varias implementaciones, lo que permite que el tráfico desde un único punto de conexión de puntuación se sirva a varias implementaciones si es necesario. Esto es útil para escenarios como el lanzamiento controlado.

Azure ML admite dos tipos de puntos de conexión: en línea y por lotes. Los puntos de conexión en línea admiten la inferencia en tiempo real, mientras que los puntos de conexión por lotes se usan para la puntuación por lotes sin conexión.

Comandos

Nombre Description Tipo Estado
az ml online-endpoint create

Cree un punto de conexión.

 Extensión GA
az ml online-endpoint delete

Elimine un punto de conexión.

 Extensión GA
az ml online-endpoint get-credentials

Enumere el token o las claves de un punto de conexión en línea.

 Extensión GA
az ml online-endpoint invoke

Invoque un punto de conexión.

 Extensión GA
az ml online-endpoint list

Enumerar los puntos de conexión de un área de trabajo.

 Extensión GA
az ml online-endpoint regenerate-keys

Vuelva a generar las claves de un punto de conexión en línea.

 Extensión GA
az ml online-endpoint show

Mostrar los detalles de un punto de conexión.

 Extensión GA
az ml online-endpoint update

Actualice un punto de conexión.

 Extensión GA

az ml online-endpoint create

Cree un punto de conexión.

Para crear un punto de conexión, proporcione un archivo YAML con la configuración del punto de conexión en línea. Si el punto de conexión ya existe, se producirá un error. Si desea actualizar el punto de conexión existente, use az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Ejemplos

Creación de un punto de conexión a partir de un archivo de especificación de YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--auth-mode

Método de autenticación para el punto de conexión. Valores permitidos: clave, aml_token. Valor predeterminado: clave.

--file -f

Ruta de acceso local al archivo YAML que contiene la especificación de punto de conexión en línea de Azure ML. Los documentos de referencia de YAML para el punto de conexión en línea se pueden encontrar en: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Cree el punto de conexión localmente. Nota: el tráfico y la autenticación no se admiten localmente. Puede usar "az ml online-deployment create --local" directamente. Creará un punto de conexión si no existe uno.

Valores aceptados: false, true
Valor predeterminado: False
--name -n

Nombre del punto de conexión en línea.

--no-wait

No espere a que finalice la operación de ejecución prolongada. El valor predeterminado es False.

Valor predeterminado: False
--set

Actualice un objeto especificando una ruta de acceso de propiedad y un valor que se va a establecer. Ejemplo: --set property1.property2=.

--web -e

Muestre los detalles del punto de conexión en Azure ML Studio en un explorador web.

Valor predeterminado: False
Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint delete

Elimine un punto de conexión.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Ejemplos

Eliminación de un punto de conexión en línea, incluidas todas sus implementaciones

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--name -n

Nombre del punto de conexión en línea.

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--local

Elimine el punto de conexión local.

Valores aceptados: false, true
Valor predeterminado: False
--no-wait

No espere a que finalice la operación de ejecución prolongada. El valor predeterminado es False.

Valor predeterminado: False
--yes -y

No solicita confirmación.

Valor predeterminado: False
Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint get-credentials

Enumere el token o las claves de un punto de conexión en línea.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Ejemplos

Enumeración de las claves de un punto de conexión en línea

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--name -n

Nombre del punto de conexión en línea.

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint invoke

Invoque un punto de conexión.

Puede invocar un punto de conexión en línea con algunos datos de solicitud. Esta será la inferencia en tiempo real y los resultados de puntuación se devolverán inmediatamente.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Ejemplos

Invocación de un punto de conexión en línea con algunos datos de solicitud

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Invocación de un punto de conexión en línea destinado a una implementación específica

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--name -n

Nombre del punto de conexión en línea.

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--deployment-name -d

Nombre de la implementación a destino.

--local

Invoque el punto de conexión local. Esto solo funcionará si se ha creado una implementación local para este punto de conexión.

Valores aceptados: false, true
Valor predeterminado: False
--request-file -r

Ruta de acceso local al archivo JSON que contiene los datos de solicitud.

Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint list

Enumerar los puntos de conexión de un área de trabajo.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Ejemplos

Enumeración de todos los puntos de conexión en línea de un área de trabajo

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Enumeración de todos los puntos de conexión por lotes de un área de trabajo

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Enumere todos los puntos de conexión en línea de un área de trabajo mediante el argumento --query para ejecutar una consulta JMESPath en los resultados de los comandos.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--local

Enumere todos los puntos de conexión locales.

Valores aceptados: false, true
Valor predeterminado: False
Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint regenerate-keys

Vuelva a generar las claves de un punto de conexión en línea.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Ejemplos

Regeneración de las claves de un punto de conexión en línea

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--name -n

Nombre del punto de conexión en línea.

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--key-type

Tipo de clave que se va a regenerar. Valores permitidos: principal, secundario.

Valor predeterminado: primary
--no-wait

No espere a que finalice la operación de ejecución prolongada. El valor predeterminado es False.

Valor predeterminado: False
Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint show

Mostrar los detalles de un punto de conexión.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Ejemplos

Mostrar los detalles de un punto de conexión por lotes

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Muestre el estado de aprovisionamiento de un punto de conexión mediante el argumento --query para ejecutar una consulta JMESPath en los resultados de los comandos.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--name -n

Nombre del punto de conexión en línea.

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--local

Mostrar el punto de conexión local.

Valores aceptados: false, true
Valor predeterminado: False
--web -e

Muestre los detalles del punto de conexión en Azure ML Studio en un explorador web.

Valor predeterminado: False
Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.

az ml online-endpoint update

Actualice un punto de conexión.

Se pueden actualizar las propiedades "description", "tags" y "traffic" de un punto de conexión. Además, se pueden agregar nuevas implementaciones a un punto de conexión y se pueden actualizar las implementaciones existentes.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Ejemplos

Actualización de un punto de conexión desde un archivo de especificación de YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Actualización de la configuración de tráfico de un punto de conexión

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Parámetros requeridos

--resource-group -g

Nombre del grupo de recursos. Puede configurar el grupo predeterminado mediante az configure --defaults group=<name>.

--workspace-name -w

Nombre del área de trabajo de Azure ML. Puede configurar el área de trabajo predeterminada mediante az configure --defaults workspace=<name>.

Parámetros opcionales

--add

Agregue un objeto a una lista de objetos especificando una ruta de acceso y pares clave-valor. Ejemplo: --add property.listProperty <key=value, string or JSON string>.

Valor predeterminado: []
--file -f

Ruta de acceso local al archivo YAML que contiene la especificación de punto de conexión en línea de Azure ML. Los documentos de referencia de YAML para el punto de conexión en línea se pueden encontrar en: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Al usar 'set' o 'add', conserve los literales de cadena en lugar de intentar convertir en JSON.

Valor predeterminado: False
--local

Actualice el punto de conexión local.

Valores aceptados: false, true
Valor predeterminado: False
--mirror-traffic

Dirige un porcentaje duplicado del tráfico activo a un entrenamiento de una implementación.

--name -n

Nombre del punto de conexión en línea.

--no-wait

No espere a que finalice la operación de ejecución prolongada. El valor predeterminado es False.

Valor predeterminado: False
--remove

Quite una propiedad o un elemento de una lista. Ejemplo: --remove property.list <indexToRemove> O --remove propertyToRemove.

Valor predeterminado: []
--set

Actualice un objeto especificando una ruta de acceso de propiedad y un valor que se va a establecer. Ejemplo: --set property1.property2=<value>.

Valor predeterminado: []
--traffic -r

Pares clave-valor separados por espacios, entre comillas, para la configuración de tráfico del punto de conexión.

--web -e

Muestre los detalles del punto de conexión en Azure ML Studio en un explorador web.

Valor predeterminado: False
Parámetros globales
--debug

Aumente el nivel de detalle de registro para mostrar todos los registros de depuración.

--help -h

Muestre este mensaje de ayuda y salga.

--only-show-errors

Mostrar solo los errores y suprimir las advertencias.

--output -o

Formato de salida.

Valores aceptados: json, jsonc, none, table, tsv, yaml, yamlc
Valor predeterminado: json
--query

Cadena de consulta de JMESPath. Para más información y ejemplos, consulte http://jmespath.org/.

--subscription

Nombre o identificador de la suscripción Puede configurar la suscripción predeterminada mediante az account set -s NAME_OR_ID.

--verbose

Aumente el nivel de detalle de registro. Use --debug para obtener registros de depuración completos.