Déployer des travaux de pipeline existants sur des points de terminaison de lot

S’APPLIQUE À :Extension Azure CLI v2 (actuelle)Kit de développement logiciel (SDK) Python azure-ai-ml v2 (version actuelle)

Les points de terminaison de lot vous permettent de déployer des composants de pipeline, ce qui offre un moyen pratique de rendre opérationnels les pipelines dans Azure Machine Learning. Les points de terminaison de lot acceptent les composants de pipeline pour le déploiement. Toutefois, si vous avez déjà un travail de pipeline qui s’exécute correctement, Azure Machine Learning peut accepter ce travail comme entrée dans votre point de terminaison de lot et créer automatiquement le composant de pipeline pour vous. Dans cet article, vous allez apprendre à utiliser votre travail de pipeline existant comme entrée pour le déploiement par lots.

Vous allez apprendre à :

• Exécuter et créer le travail de pipeline que vous souhaitez déployer
• Créer un déploiement par lots à partir du travail existant
• test du déploiement

À propos de cet exemple

Dans cet exemple, nous allons déployer un pipeline composé d’un simple travail de commande qui affiche « bonjour ! ». Au lieu d’inscrire le composant de pipeline avant le déploiement, nous indiquons un travail de pipeline existant à utiliser pour le déploiement. Azure Machine Learning crée alors automatiquement le composant de pipeline et le déploie en tant que composant de pipeline de point de terminaison de lot.

L’exemple de cet article est basé sur des extraits de code contenus dans le référentiel azureml-examples. Pour exécuter les commandes localement sans avoir à copier/coller le fichier YAML et d’autres fichiers, clonez d’abord le référentiel, puis modifiez les répertoires dans le dossier :

Azure CLI

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

Les fichiers de cet exemple se situent dans :

cd endpoints/batch/deploy-pipelines/hello-batch

Prérequis

• Un abonnement Azure. Si vous n’avez pas d’abonnement Azure, créez un compte gratuit avant de commencer. Essayez la version gratuite ou payante d’Azure Machine Learning.

• Un espace de travail Azure Machine Learning. Pour créer un espace de travail, consultez Gérer les espaces de travail Azure Machine Learning.

• Vérifiez que vous disposez des autorisations suivantes dans l’espace de travail Machine Learning :

  • Créez ou gérez des points de terminaison et des déploiements par lots : utilisez un rôle propriétaire, contributeur ou personnalisé autorisant Microsoft.MachineLearningServices/workspaces/batchEndpoints/*.
  • Créer des déploiements Azure Resource Manager dans le groupe de ressources de l’espace de travail : utilisez un rôle Propriétaire, Contributeur ou un rôle personnalisé autorisant Microsoft.Resources/deployments/write dans le groupe de ressources où l’espace de travail est déployé.

• Installez le logiciel suivant pour utiliser Machine Learning :

  Azure CLI

  Exécutez la commande suivante pour installer l’interface de ligne de commande Azure et l’extension pour Azure Machine Learning ml :

  az extension add -n ml
  

  Les déploiements de composants de pipeline pour des points de terminaison Batch sont introduits dans la version 2.7 de l’extension ml pour l’interface de ligne de commande Azure. Utilisez la commande az extension update --name ml pour obtenir la dernière version.

  Python

  Exécutez la commande suivante pour installer le Kit de développement logiciel (SDK) Azure Machine Learning pour Python :

  pip install azure-ai-ml
  

  Les classes ModelBatchDeployment et PipelineComponentBatchDeployment sont introduites dans la version 1.7.0 du Kit de développement logiciel (SDK). Utilisez la commande pip install -U azure-ai-ml pour obtenir la dernière version.

---

Se connecter à un espace de travail

L’espace de travail est la ressource de niveau supérieur pour le Machine Learning. Il fournit un emplacement centralisé pour travailler avec tous les artefacts que vous créez lorsque vous utilisez Machine Learning. Dans cette section, vous vous connectez à l’espace de travail dans lequel vous effectuez vos tâches de déploiement.

Azure CLI

Dans la commande suivante, entrez les valeurs de votre ID d’abonnement, de votre espace de travail, de votre emplacement et de votre groupe de ressources :

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. Importez les bibliothèques nécessaires :

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Configurez les détails de l’espace de travail et obtenez un descripteur de l’espace de travail :

   Dans la commande suivante, entrez les valeurs de votre ID d’abonnement, de votre espace de travail et de votre groupe de ressources :

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

Exécuter le travail de pipeline que vous souhaitez déployer

Dans cette section, nous commençons par exécuter un travail de pipeline :

Azure CLI

Le fichier pipeline-job.yml suivant contient la configuration du travail de pipeline :

pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: hello-pipeline-batch
display_name: hello-pipeline-batch-job
description: This job demonstrates how to run the a pipeline component in a pipeline job. You can use this example to test a component in an standalone job before deploying it in an endpoint.

compute: batch-cluster
component: hello-component/hello.yml

Python

Chargez le composant de pipeline et instanciez-le :

hello_batch = load_component(source="hello-component/hello.yml")
pipeline_job = hello_batch()

À présent, configurez certains paramètres d’exécution pour exécuter le test. Cet article suppose que vous disposez d’un cluster de calcul nommé batch-cluster. Vous pouvez remplacer le cluster par le nom du vôtre.

pipeline_job.settings.default_compute = "batch-cluster"
pipeline_job.settings.default_datastore = "workspaceblobstore"

Créez le travail de pipeline :

Azure CLI

JOB_NAME=$(az ml job create -f pipeline-job.yml --query name -o tsv)

Python

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="hello-batch-pipeline"
)
pipeline_job_run

Créer un point de terminaison de traitement de lots

Avant de déployer le travail de pipeline, nous devons déployer un point de terminaison de lot pour héberger le déploiement.

1. Entrez un nom pour le point de terminaison. Le nom d’un point de terminaison de lot doit être unique dans chaque région, car le nom est utilisé pour construire l’URI d’appel. Pour garantir son originalité, ajoutez des caractères de fin au nom spécifié dans le code suivant.

   Azure CLI

   ENDPOINT_NAME="hello-batch"
   

   Python

   endpoint_name="hello-batch"
   

2. Configurer le point de terminaison :

   Azure CLI

   Le fichier endpoint.yml contient la configuration du point de terminaison.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )
   

3. Créez le point de terminaison :

   Azure CLI

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Interrogez l’URI du point de terminaison :

   Azure CLI

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)
   

Déployer le travail de pipeline

Pour déployer le composant de pipeline, nous devons créer un déploiement par lots à partir du travail existant.

1. Nous devons indiquer à Azure Machine Learning le nom du travail que nous voulons déployer. Dans notre cas, ce travail est indiqué dans la variable suivante :

   Azure CLI

   echo $JOB_NAME
   

   Python

   print(job.name)
   

2. Configurez le déploiement.

   Azure CLI

   Le fichier deployment-from-job.yml contient la configuration du déploiement. Notez comment nous utilisons la clé job_definition au lieu de component pour indiquer que ce déploiement est créé à partir d’un travail de pipeline :

   deployment-from-job.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-from-job
   endpoint_name: hello-pipeline-batch
   type: pipeline
   job_definition: azureml:job_name_placeholder
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Python

   Notez maintenant comment nous utilisons la propriété job_definition au lieu de component :

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-from-job",
       description="A hello world deployment with a single step. This deployment is created from a pipeline job.",
       endpoint_name=endpoint.name,
       job_definition=pipeline_job_run,
       settings={
           "default_compute": "batch-cluster",
           "continue_on_step_failure": False
       }
   )
   

   Conseil

   Cette configuration suppose que vous disposez d’un cluster de calcul nommé batch-cluster. Vous pouvez remplacer cette valeur par le nom de votre cluster.

3. Créez le déploiement :

   Azure CLI

   Exécutez le code suivant pour créer un déploiement par lots sous le point de terminaison de traitement par lots et le définir comme déploiement par défaut.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME --set job_definition=azureml:$JOB_NAME -f deployment-from-job.yml
   

   Conseil

   Notez l’utilisation de la clé --set job_definition=azureml:$JOB_NAME. Étant donné que les noms des travaux sont uniques, la commande --set est utilisée ici pour modifier le nom du travail lorsque vous l’exécutez dans votre espace de travail.

   Python

   Cette commande lance la création du déploiement et retourne une réponse de confirmation pendant que la création du déploiement se poursuit.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()
   

   Une fois créé, nous allons configurer ce nouveau déploiement comme déploiement par défaut :

   endpoint = ml_client.batch_endpoints.get(endpoint.name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Votre déploiement est prêt à être utilisé.

test du déploiement

Une fois le déploiement créé, il est prêt à recevoir des travaux. Vous pouvez appeler le déploiement par défaut ainsi :

Azure CLI

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Python

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name, 
)

Vous pouvez surveiller la progression de l’affichage et diffuser les journaux en continu à l’aide de :

Azure CLI

az ml job stream -n $JOB_NAME

Python

ml_client.jobs.get(name=job.name)

Pour attendre la fin du travail, exécutez le code suivant :

ml_client.jobs.stream(name=job.name)

Nettoyer les ressources

Une fois que vous avez terminé, supprimez les ressources associées de l’espace de travail :

Azure CLI

Exécutez le code suivant pour supprimer le point de terminaison de lot et ses déploiements sous-jacents. Utilisez --yes pour confirmer la suppression.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

Supprimez le point de terminaison :

ml_client.batch_endpoints.begin_delete(endpoint.name).result()

Étapes suivantes

• Comment déployer un pipeline de formation avec des points de terminaison par lots
• Comment déployer un pipeline pour effectuer une évaluation par lots avec prétraitement
• Accéder aux données depuis des travaux de points de terminaison de traitement par lots
• Résolution des problèmes de points de terminaison de traitement de lots