Развертывание существующих заданий конвейера в пакетных конечных точках

ОБЛАСТЬ ПРИМЕНЕНИЯ:Расширение машинного обучения Azure CLI версии 2 (current)Python SDK azure-ai-ml версии 2 (current)

Конечные точки пакетной службы позволяют развертывать компоненты конвейера, предоставляя удобный способ эксплуатации конвейеров в Машинное обучение Azure. Конечные точки пакетной службы принимают компоненты конвейера для развертывания. Однако если у вас уже есть задание конвейера, которое выполняется успешно, Машинное обучение Azure может принять это задание в качестве входных данных в конечную точку пакетной службы и автоматически создать компонент конвейера. В этой статье вы узнаете, как использовать существующее задание конвейера в качестве входных данных для пакетного развертывания.

Содержание:

• Выполнение и создание задания конвейера, которое требуется развернуть
• Создание пакетного развертывания из существующего задания
• Тестирование развертывания

Сведения об этом примере

В этом примере мы будем развертывать конвейер, состоящий из простого задания команды, которое печатает "hello world!". Вместо регистрации компонента конвейера перед развертыванием мы указываем существующее задание конвейера, используемое для развертывания. Машинное обучение Azure затем создаст компонент конвейера автоматически и развернет его в качестве развертывания компонента конвейера пакетной конечной точки.

Пример в этой статье основан на примерах кода, содержащихся в репозитории azureml-examples . Чтобы выполнять команды локально, не копируя и вставляя YAML и другие файлы, используйте следующие команды, чтобы клонировать репозиторий и перейти в папку для языка программирования:

Azure CLI

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

Файлы для этого примера находятся в следующих файлах:

cd endpoints/batch/deploy-pipelines/hello-batch

Необходимые компоненты

• Подписка Azure. Если у вас еще нет подписки Azure, создайте бесплатную учетную запись, прежде чем начинать работу.

• Рабочая область Машинного обучения Azure. Сведения о создании рабочей области см. в разделе "Управление Машинное обучение Azure рабочих областей".

• Следующие разрешения в рабочей области Машинное обучение Azure:

  • Для создания конечных точек и развертываний пакетной службы или управления ими используйте роль владельца, участника или настраиваемую роль, назначаемую Microsoft.MachineLearningServices/workspaces/batchEndpoints/* разрешениями.
  • Для создания развертываний Azure Resource Manager в группе ресурсов рабочей области: используйте владельца, участника или настраиваемую роль, Microsoft.Resources/deployments/write назначаемую разрешением в группе ресурсов, в которой развернута рабочая область.

• Интерфейс командной строки Машинное обучение Azure или пакет SDK Машинное обучение Azure для Python:

  Azure CLI

  Выполните следующую команду, чтобы установить Azure CLI и mlрасширение для Машинное обучение Azure:

  az extension add -n ml
  

  Развертывания компонентов конвейера для конечных точек пакетной службы представлены в версии 2.7 ml расширения для Azure CLI. az extension update --name ml Используйте команду, чтобы получить последнюю версию.

  Python

  Выполните следующую команду, чтобы установить пакет SDK Машинное обучение Azure для Python:

  pip install azure-ai-ml
  

  PipelineComponentBatchDeployment Классы ModelBatchDeployment представлены в пакете SDK версии 1.7.0. pip install -U azure-ai-ml Используйте команду, чтобы получить последнюю версию.

---

Подключение к рабочей области

Рабочая область — это ресурс верхнего уровня для Машинного обучения Azure. Он предоставляет централизованное место для работы со всеми артефактами, создаваемыми при использовании Машинное обучение Azure. В этом разделе описано, как подключиться к рабочей области, в которой выполняются задачи развертывания.

Azure CLI

В следующей команде введите идентификатор подписки, имя рабочей области, имя группы ресурсов и расположение:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. Импортируйте необходимые библиотеки:

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Настройте сведения о рабочей области и получите дескриптор для рабочей области:

   В следующей команде введите идентификатор подписки, имя группы ресурсов и имя рабочей области:

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

Запуск задания конвейера, которое требуется развернуть

В этом разделе мы начнем с выполнения задания конвейера:

Azure CLI

pipeline-job.yml Следующий файл содержит конфигурацию для задания конвейера:

pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: hello-pipeline-batch
display_name: hello-pipeline-batch-job
description: This job demonstrates how to run the a pipeline component in a pipeline job. You can use this example to test a component in an standalone job before deploying it in an endpoint.

compute: batch-cluster
component: hello-component/hello.yml

Python

Загрузите компонент конвейера и создайте его экземпляр:

hello_batch = load_component(source="hello-component/hello.yml")
pipeline_job = hello_batch()

Теперь настройте некоторые параметры запуска для выполнения теста. В этой статье предполагается, что у вас есть вычислительный кластер с именем batch-cluster. Вы можете заменить кластер именем вашего.

pipeline_job.settings.default_compute = "batch-cluster"
pipeline_job.settings.default_datastore = "workspaceblobstore"

Создайте задание конвейера:

Azure CLI

JOB_NAME=$(az ml job create -f pipeline-job.yml --query name -o tsv)

Python

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="hello-batch-pipeline"
)
pipeline_job_run

Создание пакетной конечной точки

Перед развертыванием задания конвейера необходимо развернуть пакетную конечную точку для размещения развертывания.

1. Укажите имя конечной точки. Имя пакетной конечной точки должно быть уникальным в каждом регионе, так как имя используется для создания URI вызова. Чтобы обеспечить уникальность, добавьте все конечные символы в имя, указанное в следующем коде.

   Azure CLI

   ENDPOINT_NAME="hello-batch"
   

   Python

   endpoint_name="hello-batch"
   

2. Настройка конечной точки:

   Azure CLI

   Файл endpoint.yml содержит конфигурацию конечной точки.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )
   

3. Создание конечной точки:

   Azure CLI

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Запросите универсальный код ресурса (URI) конечной точки:

   Azure CLI

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)
   

Развертывание задания конвейера

Чтобы развернуть компонент конвейера, необходимо создать пакетное развертывание из существующего задания.

1. Нам нужно указать Машинное обучение Azure имя задания, которое мы хотим развернуть. В нашем случае это задание указывается в следующей переменной:

   Azure CLI

   echo $JOB_NAME
   

   Python

   print(job.name)
   

2. Настройте развертывание.

   Azure CLI

   Файл deployment-from-job.yml содержит конфигурацию развертывания. Обратите внимание, что ключ job_definition используется вместо component того, чтобы указать, что это развертывание создается из задания конвейера:

   deployment-from-job.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-from-job
   endpoint_name: hello-pipeline-batch
   type: pipeline
   job_definition: azureml:job_name_placeholder
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Python

   Обратите внимание, что теперь мы используем свойство job_definition вместо component:

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-from-job",
       description="A hello world deployment with a single step. This deployment is created from a pipeline job.",
       endpoint_name=endpoint.name,
       job_definition=pipeline_job_run,
       settings={
           "default_compute": "batch-cluster",
           "continue_on_step_failure": False
       }
   )
   

   Совет

   В этой конфигурации предполагается, что у вас есть вычислительный кластер с именем batch-cluster. Это значение можно заменить именем кластера.

3. Создание развертывания:

   Azure CLI

   Выполните следующий код, чтобы создать пакетное развертывание в конечной точке пакетной службы и задать его как развертывание по умолчанию.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME --set job_definition=azureml:$JOB_NAME -f deployment-from-job.yml
   

   Совет

   Обратите внимание на использование --set job_definition=azureml:$JOB_NAME. Так как имена заданий уникальны, команда --set используется здесь, чтобы изменить имя задания при его запуске в рабочей области.

   Python

   Эта команда запускает создание развертывания и возвращает ответ подтверждения во время создания развертывания.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()
   

   После создания давайте настроим это новое развертывание как стандартное:

   endpoint = ml_client.batch_endpoints.get(endpoint.name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Развертывание готово для использования.

Тестирование развертывания

После создания развертывания он готов к получению заданий. Вы можете вызвать развертывание по умолчанию следующим образом:

Azure CLI

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Python

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name, 
)

Вы можете отслеживать ход выполнения отображения и потоковой передачи журналов с помощью:

Azure CLI

az ml job stream -n $JOB_NAME

Python

ml_client.jobs.get(name=job.name)

Чтобы дождаться завершения задания, выполните следующий код:

ml_client.jobs.stream(name=job.name)

Очистка ресурсов

После завершения удалите связанные ресурсы из рабочей области:

Azure CLI

Выполните следующий код, чтобы удалить конечную точку пакетной службы и его базовое развертывание. --yes используется для подтверждения удаления.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

Удалите конечную точку:

ml_client.batch_endpoints.begin_delete(endpoint.name).result()

Следующие шаги

• Развертывание конвейера обучения с помощью конечных точек пакетной службы
• Развертывание конвейера для выполнения пакетной оценки с предварительной обработкой
• Доступ к данным из заданий пакетных конечных точек
• Устранение неполадок с пакетными конечными точками