Partilhar via

az ml batch-endpoint

  • Referência

Nota

Essa referência faz parte da extensão ml para a CLI do Azure (versão 2.15.0 ou superior). A extensão será instalada automaticamente na primeira vez que você executar um comando az ml batch-endpoint . Saiba mais sobre extensões.

Gerencie pontos de extremidade em lote do Azure ML.

Os pontos de extremidade do Azure ML fornecem uma interface simples para criar e gerenciar implantações de modelo. Cada ponto de extremidade pode ter uma ou mais implantações. Os pontos de extremidade de lote são usados para pontuação de lote offline.

Comandos

Name Description Tipo Status
az ml batch-endpoint create

Crie um ponto de extremidade.

 Extensão GA
az ml batch-endpoint delete

Exclua um ponto de extremidade.

 Extensão GA
az ml batch-endpoint invoke

Invoque um ponto de extremidade.

 Extensão GA
az ml batch-endpoint list

Listar pontos de extremidade em um espaço de trabalho.

 Extensão GA
az ml batch-endpoint list-jobs

Liste os trabalhos de pontuação em lote para um ponto de extremidade em lote.

 Extensão GA
az ml batch-endpoint show

Mostrar detalhes de um ponto de extremidade.

 Extensão GA
az ml batch-endpoint update

Atualize um ponto de extremidade.

 Extensão GA

az ml batch-endpoint create

Crie um ponto de extremidade.

Para criar um ponto de extremidade, forneça um arquivo YAML com uma configuração de ponto de extremidade em lote. Se o ponto de extremidade já existir, ele será substituído pelas novas configurações.

az ml batch-endpoint create --resource-group
                            --workspace-name
                            [--file]
                            [--name]
                            [--no-wait]
                            [--set]

Exemplos

Criar um ponto de extremidade a partir de um arquivo de especificação YAML

az ml batch-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Criar um ponto de extremidade com nome

az ml batch-endpoint create --name endpointname --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--file -f

Caminho local para o arquivo YAML que contém a especificação de ponto de extremidade em lote do Azure ML. Os documentos de referência do YAML para batch-endpoint podem ser encontrados em: https://aka.ms/ml-cli-v2-endpoint-batch-yaml-reference.

--name -n

Nome do ponto de extremidade do lote.

--no-wait

Não espere que a operação de longa duração termine. O padrão é False.

Default value: False
--set

Atualize um objeto especificando um caminho de propriedade e um valor a ser definido. Exemplo: --set property1.property2=.

Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.

az ml batch-endpoint delete

Exclua um ponto de extremidade.

az ml batch-endpoint delete --name
                            --resource-group
                            --workspace-name
                            [--no-wait]
                            [--yes]

Exemplos

Excluir um ponto de extremidade em lote, incluindo todas as suas implantações

az ml batch-endpoint delete --name my-batch-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--no-wait

Não espere que a operação de longa duração termine. O padrão é False.

Default value: False
--yes -y

Não solicite confirmação.

Default value: False
Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.

az ml batch-endpoint invoke

Invoque um ponto de extremidade.

Você pode iniciar a execução da inferência em lote invocando o ponto de extremidade com alguns dados. Para pontos de extremidade em lote, a invocação acionará um trabalho assíncrono de pontuação em lote.

az ml batch-endpoint invoke --name
                            --resource-group
                            --workspace-name
                            [--deployment-name]
                            [--experiment-name]
                            [--file]
                            [--input]
                            [--input-type]
                            [--inputs]
                            [--instance-count]
                            [--job-name]
                            [--mini-batch-size]
                            [--output-path]
                            [--outputs]
                            [--set]

Exemplos

Invoque um ponto de extremidade em lote com dados de entrada de um ativo de dados do Azure ML registrado e substitua a configuração de implantação padrão para mini_batch_size

az ml batch-endpoint invoke --name my-batch-endpoint --input azureml:my-dataset:1 --mini-batch-size 64 --resource-group my-resource-group --workspace-name my-workspace

Invoque um ponto de extremidade em lote com arquivo de entrada de um URI público

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_file --input https://pipelinedata.blob.core.windows.net/sampledata/mnist/0.png --resource-group my-resource-group --workspace-name my-workspace

Invoque um ponto de extremidade em lote com arquivo de entrada de um armazenamento de dados registrado

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_file --input azureml://datastores/workspaceblobstore/paths/{path_to_data}/mnist/0.png --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com pasta de entrada de um URI público

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_folder --input https://pipelinedata.blob.core.windows.net/sampledata/mnist --resource-group my-resource-group --workspace-name my-workspace

Invoque um ponto de extremidade em lote com pasta de entrada de um armazenamento de dados registrado

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_folder --input azureml://datastores/workspaceblobstore/paths/{path_to_data}/mnist --resource-group my-resource-group --workspace-name my-workspace

Invoque um ponto de extremidade em lote com arquivos em uma pasta local

az ml batch-endpoint invoke --name my-batch-endpoint --input ./mnist_folder --resource-group my-resource-group --workspace-name my-workspace

Invoque um ponto de extremidade em lote com uma pasta local como caminho de entrada e saída e substitua algumas configurações de implantação em lote durante a chamada de ponto de extremidade

az ml batch-endpoint invoke --name my-batch-endpoint --input ./mnist_folder --instance-count 2 --mini-batch-size 5 --output-path azureml://datastores/workspaceblobstore/paths/tests/output --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--deployment-name -d

Nome da implantação a ser direcionada.

--experiment-name

Nome do experimento para implantação do componente de pipeline.

--file -f

Nome do arquivo usado para a invocação em lote.

--input

Referência aos dados de entrada a serem usados para inferência em lote. Pode ser um caminho no armazenamento de dados, URI público, um ativo de dados registrado ou um caminho de pasta local.

--input-type

Tipo de entrada, especificando se é um arquivo ou uma pasta. Use isso quando estiver usando um caminho no armazenamento de dados ou URI público. Valores suportados: uri_folder, uri_file.

--inputs

Dicionário de entradas de trabalhos invocados.

--instance-count -c

Número de instâncias em que a previsão será executada.

--job-name

Nome do trabalho para invocação em lote.

--mini-batch-size -m

Tamanho de cada mini lote em que os dados de entrada serão divididos para previsão.

--output-path

Caminho no armazenamento de dados para onde os arquivos de saída serão carregados.

--outputs

Dicionário para especificar onde armazenar os resultados.

--set

Atualize um objeto especificando um caminho de propriedade e um valor a ser definido. Exemplo: --set property1.property2=.

Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.

az ml batch-endpoint list

Listar pontos de extremidade em um espaço de trabalho.

az ml batch-endpoint list --resource-group
                          --workspace-name

Exemplos

Listar todos os pontos de extremidade em lote em um espaço de trabalho

az ml batch-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Listar todos os pontos de extremidade em lote em um espaço de trabalho

az ml batch-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Liste todos os pontos de extremidade em lote em um espaço de trabalho usando o argumento --query para executar uma consulta JMESPath nos resultados dos comandos.

az ml batch-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.

az ml batch-endpoint list-jobs

Liste os trabalhos de pontuação em lote para um ponto de extremidade em lote.

az ml batch-endpoint list-jobs --name
                               --resource-group
                               --workspace-name

Exemplos

Listar todos os trabalhos de pontuação em lote para um ponto de extremidade

az ml batch-endpoint list-jobs --name my-batch-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.

az ml batch-endpoint show

Mostrar detalhes de um ponto de extremidade.

az ml batch-endpoint show --name
                          --resource-group
                          --workspace-name

Exemplos

Mostrar os detalhes de um ponto de extremidade em lote

az ml batch-endpoint show --name my-batch-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Mostrar o estado de provisionamento de um ponto de extremidade usando o argumento --query para executar uma consulta JMESPath nos resultados dos comandos.

az ml batch-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.

az ml batch-endpoint update

Atualize um ponto de extremidade.

As propriedades 'description', 'tags' e 'defaults' de um endpoint podem ser atualizadas. Além disso, novas implantações podem ser adicionadas a um ponto de extremidade e implantações existentes podem ser atualizadas.

az ml batch-endpoint update --resource-group
                            --workspace-name
                            [--add]
                            [--defaults]
                            [--file]
                            [--force-string]
                            [--name]
                            [--no-wait]
                            [--remove]
                            [--set]

Exemplos

Atualizar um ponto de extremidade a partir de um arquivo de especificação YAML

az ml batch-endpoint update --name my-batch-endpoint --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Adicionar uma nova implantação a um ponto de extremidade existente

az ml batch-endpoint update --name my-batch-endpoint  --set defaults.deployment_name=depname  --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Obrigatórios

--resource-group -g

o nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--add

Adicione um objeto a uma lista de objetos especificando um caminho e pares de valor de chave. Exemplo: --add property.listProperty <key=value, string or JSON string>.

Default value: []
--defaults

Atualize deployment_name dentro das configurações padrão para invocar ponto de extremidade.

--file -f

Caminho local para o arquivo YAML que contém a especificação de ponto de extremidade em lote do Azure ML. Os documentos de referência do YAML para batch-endpoint podem ser encontrados em: https://aka.ms/ml-cli-v2-endpoint-batch-yaml-reference.

--force-string

Ao usar 'set' ou 'add', preserve literais de string em vez de tentar converter para JSON.

Default value: False
--name -n

Nome do ponto de extremidade do lote.

--no-wait

Não espere que a operação de longa duração termine. O padrão é False.

Default value: False
--remove

Remova uma propriedade ou um elemento de uma lista. Exemplo: --remove property.list <indexToRemove> OR --remove propertyToRemove.

Default value: []
--set

Atualize um objeto especificando um caminho de propriedade e um valor a ser definido. Exemplo: --set property1.property2=<value>.

Default value: []
Parâmetros de Globais
--debug

Aumente a verbosidade do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceites: json, jsonc, none, table, tsv, yaml, yamlc
Default value: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

o nome ou o ID da subscrição. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_IDo .

--verbose

Aumente a verbosidade do registro. Use --debug para logs de depuração completos.