Como implantar um modelo de AutoML em um ponto de extremidade online

APLICA-SE A:Extensão de ML da CLI do Azure v2 (atual)SDK do Python azure-ai-ml v2 (atual)

Neste artigo, você aprenderá a implantar um modelo de machine learning treinado com AutoML em um ponto de extremidade de inferência em tempo real online. O machine learning automatizado, também conhecido como ML automatizado ou AutoML, é o processo de automatizar as tarefas demoradas e iterativas do desenvolvimento de modelo de machine learning. Para obter mais informações, confira O que é machine learning automatizado (AutoML)?

Nas seções a seguir, você aprenderá a implantar o modelo de machine learning treinado por AutoML em pontos de extremidade online, usando o seguinte:

• Azure Machine Learning Studio
• CLI do Azure Machine Learning v2
• SDK do Python do Azure Machine Learning v2

Pré-requisitos

• Um modelo de aprendizado de máquina de AutoML treinado. Para obter mais informações, confira Tutorial: Treinar um modelo de classificação com AutoML no-code ou Tutorial: Prever a demanda com aprendizado de máquina automatizado no-code.

Implantar do Estúdio do Azure Machine Learning e sem código

A implantação de um modelo treinado por AutoML da página do ML automatizado é uma experiência sem código. Ou seja, você não precisa preparar um script de pontuação nem um ambiente, porque ambos são gerados automaticamente.

1. No Estúdio do Azure Machine Learning, vá para a página ML Automatizado.

2. Selecione seu experimento e o execute.

3. Escolha a guia Modelos + trabalhos filho.

4. Selecione o modelo que você deseja implantar.

5. Após você selecionar um modelo, o botão Implantar ficará disponível com um menu suspenso.

6. Selecione a opção Ponto de extremidade em tempo real.

   

   O sistema irá gerar o Modelo e o Ambiente necessários para a implantação.

   

Implantar manualmente do estúdio ou da linha de comando

Se quiser obter mais controle sobre a implantação, você pode baixar os artefatos de treinamento e implantá-los.

Para baixar os componentes necessários para a implantação:

1. Vá para o seu experimento ML Automatizado e o execute no seu espaço de trabalho do machine learning.

2. Escolha a guia Modelos + trabalhos filho.

3. Selecione o modelo que você quer testar. Após você selecionar um modelo, o botão Baixar será habilitado.

4. Escolha Baixar.

   

Você recebe um arquivo .zip contendo:

• Um arquivo de especificação de ambiente conda chamado conda_env_<VERSION>.yml
• Um arquivo de pontuação do Python chamado scoring_file_<VERSION>.py
• O modelo propriamente dito, em um arquivo .pkl do Python chamado model.pkl

Para implantar usando esses arquivos, você pode usar o estúdio ou a CLI do Azure.

Estúdio

1. No Estúdio do Azure Machine Learning, vá para a página Modelos.
2. Selecione + Registro>A partir de arquivos locais.
3. Registre o modelo que você baixou da execução do ML Automatizado.
4. Vá para a página Ambientes, selecione Ambiente personalizado e selecione + Criar para criar um ambiente para a sua implantação. Use o yaml do conda que você baixou para criar um ambiente personalizado.
5. Selecione o modelo e, no menu suspenso Implantar, selecione Ponto de extremidade em tempo real.
6. Conclua todas as etapas no assistente para criar um ponto de extremidade online e uma implantação.

CLI do Azure

APLICA-SE A: Extensão de ML da CLI do Azurev2 (atual)

Configurar a CLI

Para criar uma implantação a partir da CLI, você vai precisar da CLI do Azure com a extensão v2 do ML. Execute o comando a seguir para confirmar:

az version

Se receber uma mensagem de erro ou não ver Extensions: ml na resposta, siga as etapas em Extensions: ml.

1. Entrar.

   az login
   

2. Se você tem acesso a várias assinaturas do Azure, você poderá definir sua assinatura ativa.

   az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"
   

3. Defina o grupo de recursos e o espaço de trabalho padrão para o local onde você quer criar a implantação.

   az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION
   

Colocar o arquivo de pontuação em seu próprio diretório

Crie um diretório chamado src. Salve nele o arquivo de pontuação que você baixou. Esse diretório é carregado no Azure e contém todo o código-fonte necessário para a inferência. Há somente o arquivo de pontuação único, para um modelo AutoML.

Criar o arquivo YAML de ponto de extremidade e implantação

Para criar um ponto de extremidade online a partir da linha de comando, você vai precisar criar os arquivos endpoint.yml e deployment.yml. O código a seguir, retirado do repositório de Exemplos do Azure Machine Learning, mostra o endpoints/online/managed/sample/, que captura todas as entradas de dados necessárias.

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Você vai precisar modificar esse arquivo para usar os arquivos que você baixou da página Modelos do AutoML.

1. Crie um arquivo automl_endpoint.yml e automl_deployment.yml e cole o conteúdo dos exemplos anteriores.

2. Altere o valor de name do ponto de extremidade. O nome do ponto de extremidade deve ser exclusivo na região do Azure. O nome de um ponto de extremidade deve começar com uma letra maiúscula ou minúscula e conter somente caracteres '-'s e alfanuméricos.

3. No arquivo automl_deployment.yml, altere o valor das chaves nos caminhos a seguir.

   Caminho	Altere para
   model:path	O caminho para o arquivo model.pkl que você baixou.
   code_configuration:code:path	O diretório no qual você colocou o arquivo de pontuação.
   code_configuration:scoring_script	O nome do arquivo de pontuação do Python (scoring_file_<VERSION>.py).
   environment:conda_file	Uma URL de arquivo para o arquivo do ambiente conda baixado (conda_env_<VERSION>.yml).

   Observação

   Para ver uma descrição completa do YAML, confira Referência de YAML do ponto de extremidade online.

4. Da linha de comando, execute:

   APLICA-SE A: Extensão de ML da CLI do Azurev2 (atual)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Depois de criar uma implantação, você pode pontua-la conforme descrito em Invocar o ponto de extremidade para pontuar dados usando seu modelo.

SDK do Python

APLICA-SE A: SDK do Python azure-ai-ml v2 (atual)

Configurar o SDK do Python

Se você precisar instalar o SDK v2 do Python, instale com esse comando:

pip install azure-ai-ml azure-identity

Para obter mais informações, confira Instalar o SDK do Azure Machine Learning v2 para Python.

Colocar o arquivo de pontuação em seu próprio diretório

Crie um diretório chamado src. Salve nele o arquivo de pontuação que você baixou. Esse diretório é carregado no Azure e contém todo o código-fonte necessário para a inferência. Há somente o arquivo de pontuação único, para um modelo AutoML.

Conectar-se ao workspace do Azure Machine Learning

1. Importar as bibliotecas necessárias.

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Configure os detalhes do workspace e obtenha um identificador para o workspace.

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Crie o ponto de extremidade e a implantação

Crie as implantações e pontos de extremidade online.

1. Configure o ponto de extremidade online.

   Dica

   • name: o nome do ponto de extremidade. O valor precisa ser exclusivo na região do Azure. O nome de um ponto de extremidade deve começar com uma letra maiúscula ou minúscula e conter somente caracteres '-'s e alfanuméricos. Para obter mais informações sobre as regras de nomenclatura, confira os limites de ponto de extremidade.
   • auth_mode: use key para autenticação baseada em chave. Use aml_token para autenticação baseada em chave do Azure Machine Learning. key não expira, mas aml_token expira. Para obter mais informações sobre autenticação, confira Autenticação em um ponto de extremidade online.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Crie o ponto de extremidade.

   Usando o MLClient criado anteriormente, crie o Ponto de Extremidade no espaço de trabalho. Esse comando inicia a criação do ponto de extremidade e retorna uma resposta de confirmação enquanto a criação do ponto de extremidade prossegue.

   ml_client.begin_create_or_update(endpoint)
   

3. Configure a implantação online.

   Uma implantação é um conjunto de recursos necessários para hospedar o modelo que executa a inferência real. Crie uma implantação do ponto de extremidade usando a classe ManagedOnlineDeployment.

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   Nesse exemplo, os arquivos que você baixou da página Modelos AutoML estão no diretório src. Você pode modificar os parâmetros no código para atender à sua situação.

   Parâmetro	Altere para
   model:path	O caminho para o arquivo model.pkl que você baixou.
   code_configuration:code:path	O diretório no qual você colocou o arquivo de pontuação.
   code_configuration:scoring_script	O nome do arquivo de pontuação do Python (scoring_file_<VERSION>.py).
   environment:conda_file	Uma URL de arquivo para o arquivo do ambiente conda baixado (conda_env_<VERSION>.yml).

4. Crie a implantação.

   Usando o MLClient criado anteriormente, crie a implantação no espaço de trabalho. Esse comando começa a criar a implantação e retorna uma resposta de confirmação enquanto a criação da implantação prossegue.

   ml_client.begin_create_or_update(blue_deployment)
   

Depois de criar uma implantação, você pode pontuar como descrito em Testar o ponto de extremidade com dados de exemplo.

Para saber mais sobre a implantação com SDK em pontos de extremidade online gerenciados, confira Implantar e pontuar um modelo de machine learning usando um ponto de extremidade online.

Conteúdo relacionado

• Solução de problemas de implantação e pontuação de pontos de extremidade online
• Executar a distribuição segura de novas implantações para inferência em tempo real