Настройка MLflow для Машинного обучения Azure

В этой статье объясняется, как настроить MLflow для подключения к рабочей области Машинное обучение Azure для отслеживания, управления реестрами и развертывания.

Машинное обучение Azure рабочие области совместимы с MLflow, что означает, что они могут выступать в качестве серверов MLflow без дополнительной настройки. Каждая рабочая область имеет URI отслеживания MLflow, который MLflow может использовать для подключения к рабочей области. Машинное обучение Azure рабочие области уже настроены для работы с MLflow, поэтому дополнительная конфигурация не требуется.

Однако если вы работаете вне Машинное обучение Azure, необходимо настроить MLflow для указания рабочей области. Затронутые среды включают локальный компьютер, Azure Synapse Analytics и Azure Databricks.

Внимание

При использовании вычислительной инфраструктуры Azure не требуется настраивать URI отслеживания. Он автоматически настроен для вас. Среды с автоматической конфигурацией включают Машинное обучение Azure записные книжки, записные книжки Jupyter, размещенные в Машинное обучение Azure вычислительных экземплярах, а также задания, выполняемые в Машинное обучение Azure вычислительных кластерах.

Необходимые компоненты

• Пакет пакета SDK MLflow mlflow и подключаемый модуль Машинное обучение Azure azureml-mlflow для MLflow. Для установки этого программного обеспечения можно использовать следующую команду:

  pip install mlflow azureml-mlflow
  

  Совет

  Вместо этого mlflowрекомендуется использовать mlflow-skinny. Этот пакет является упрощенным пакетом MLflow без хранилища SQL, сервера, пользовательского интерфейса или зависимостей для обработки и анализа данных. Рекомендуется для пользователей, которые в первую очередь нуждаются в возможностях отслеживания и ведения журнала MLflow, но не хотят импортировать полный набор функций, включая развертывания.

• Рабочая область Машинного обучения Azure. Чтобы создать рабочую область, см. статью "Создание ресурсов", которые необходимо приступить к работе.

• Разрешения доступа для выполнения операций MLflow в рабочей области. Список операций и необходимых разрешений см. в разделе "Операции MLflow".

Настройка URI отслеживания MLflow

Чтобы выполнить удаленное отслеживание или отслеживать эксперименты, выполняемые вне Машинное обучение Azure, настройте MLflow для указания URI отслеживания рабочей области Машинное обучение Azure.

Чтобы подключить MLflow к рабочей области Машинное обучение Azure, вам потребуется URI отслеживания рабочей области. Каждая рабочая область имеет собственный URI отслеживания, который начинается с протокола azureml://.

1. Получите URI отслеживания для рабочей области:

   Azure CLI

   ОБЛАСТЬ ПРИМЕНЕНИЯ: расширение машинного обучения Azure CLI версии 2 (текущее)

   1. Войдите и настройте рабочую область:

      az account set --subscription <subscription-ID>
      az configure --defaults workspace=<workspace-name> group=<resource-group-name> location=<location> 
      

   2. Получите URI отслеживания с помощью az ml workspace команды:

      az ml workspace show --query mlflow_tracking_uri
      

   Пакет SDK для Python

   ОБЛАСТЬ ПРИМЕНЕНИЯ: Пакет SDK для Python azure-ai-ml версии 2 (current)

   Пакет SDK Машинное обучение Azure версии 2 для Python можно использовать для получения URI отслеживания Машинное обучение Azure MLflow. Убедитесь, что azure-ai-ml библиотека установлена в вычислительном экземпляре. Затем используйте следующий код, чтобы получить уникальный URI отслеживания MLFLow, связанный с рабочей областью.

   1. Используйте экземпляр для MLClient входа в рабочую область. Существует два варианта входа:

      • Самый простой способ — использовать файл конфигурации рабочей области:

        from azure.ai.ml import MLClient
        from azure.identity import DefaultAzureCredential
        
        ml_client = MLClient.from_config(credential=DefaultAzureCredential())
        

        Совет

        Файл конфигурации рабочей области можно скачать, выполнив следующие действия.

        1. Перейдите к Студия машинного обучения Azure.
        2. В правом верхнем углу выберите имя рабочей области.
        3. В окне "Каталог + подписка + рабочая область" выберите "Скачать файл конфигурации".
        4. Сохраните файл config.json в каталоге, в который вы работаете.

      • Кроме того, можно использовать идентификатор подписки, имя группы ресурсов и имя рабочей области для входа:

        from azure.ai.ml import MLClient
        from azure.identity import DefaultAzureCredential
        
        # Enter information about your Azure Machine Learning workspace.
        subscription_id = "<subscription-ID>"
        resource_group = "<resource-group-name>"
        workspace_name = "<workspace-name>"
        
        ml_client = MLClient(credential=DefaultAzureCredential(),
                                 subscription_id=subscription_id, 
                                 resource_group_name=resource_group,
                                 workspace_name=workspace_name)
        

        Внимание

        Метод DefaultAzureCredential пытается извлечь учетные данные из доступного контекста. Но может потребоваться указать учетные данные другим способом, например с помощью веб-браузера в интерактивном режиме. В этих случаях можно использовать InteractiveBrowserCredential или любой другой метод, доступный в пакете azure.identity .

   2. Получите URI отслеживания Машинное обучение Azure:

      mlflow_tracking_uri = ml_client.workspaces.get(ml_client.workspace_name).mlflow_tracking_uri
      

   Studio

   Используйте Студия машинного обучения Azure для получения URI отслеживания:

   1. Откройте Студия машинного обучения Azure и используйте учетные данные для входа.

   2. В правом верхнем углу выберите имя рабочей области.

   3. В окне "Каталог + подписка и рабочая область" выберите "Просмотреть все свойства" на портале Azure. Откроется страница ресурсов рабочей области в портал Azure.

   4. В разделе Essentials скопируйте значение URI отслеживания MLflow.

   Вручную

   Вы можете создать URI отслеживания Машинное обучение Azure вручную. Вам нужен идентификатор подписки, регион, в который развернута рабочая область, имя группы ресурсов и имя рабочей области. Чтобы получить универсальный код ресурса (URI), введите эти значения в следующий код:

   Предупреждение

   Если вы используете рабочую область с поддержкой приватного канала, конечная точка MLflow также использует приватный канал для взаимодействия с Машинное обучение Azure. В результате URI отслеживания использует формат, отличный от формата, который в этой статье отличается. В этом случае необходимо использовать пакет SDK Машинное обучение Azure для Python или интерфейс командной строки Машинное обучение Azure версии 2 для получения URI отслеживания.

   region = "<region>"
   subscription_id = "<subscription-ID>"
   resource_group = "<resource-group-name>"
   workspace_name = "<workspace-name>"
   
   mlflow_tracking_uri = f"azureml://{region}.api.azureml.ms/mlflow/v1.0/subscriptions/{subscription_id}/resourceGroups/{resource_group}/providers/Microsoft.MachineLearningServices/workspaces/{workspace_name}"
   

2. Настройте URI отслеживания:

   Пакет SDK для MLflow

   set_tracking_uri() Используйте метод, чтобы задать URI отслеживания MLflow в URI отслеживания рабочей области.

   import mlflow
   
   mlflow.set_tracking_uri(mlflow_tracking_uri)
   

   Переменные среды

   В вычислительном экземпляре используйте следующий код, чтобы задать MLFLOW_TRACKING_URI переменную среды MLflow в URI отслеживания рабочей области. Это назначение делает все взаимодействия с MLflow в этой точке вычислительного экземпляра Машинное обучение Azure по умолчанию. Дополнительные сведения см. в разделе "Ведение журнала".

   MLFLOW_TRACKING_URI=$(az ml workspace show --query mlflow_tracking_uri | sed 's/"//g') 
   

   Совет

   Некоторые сценарии включают работу в общей среде, например кластер Azure Databricks или кластер Azure Synapse Analytics. В таких случаях рекомендуется задать MLFLOW_TRACKING_URI переменную среды на уровне кластера, а не для каждого сеанса. Настройка переменной на уровне кластера автоматически настраивает URI отслеживания MLflow для указания на Машинное обучение Azure для всех сеансов в кластере.

Настройка проверки подлинности

После настройки отслеживания также необходимо настроить метод проверки подлинности для связанной рабочей области.

По умолчанию подключаемый модуль Машинное обучение Azure для MLflow выполняет интерактивную проверку подлинности, открыв браузер по умолчанию для запроса учетных данных. Но подключаемый модуль также поддерживает несколько других механизмов проверки подлинности. Пакет azure-identity предоставляет эту поддержку. Этот пакет устанавливается как зависимость подключаемого azureml-mlflow модуля.

Процесс проверки подлинности пытается выполнить следующие методы, один за другим, пока он не будет выполнен успешно.

1. Среда: сведения об учетной записи, указанные с помощью переменных среды, считываются и используются для проверки подлинности.
2. Управляемое удостоверение: если приложение развертывается на узле Azure с включенным управляемым удостоверением, для проверки подлинности используется управляемое удостоверение.
3. Azure CLI. Если вы используете команду Azure CLIaz login для входа, учетные данные используются для проверки подлинности.
4. Azure PowerShell. Если вы используете команду Azure PowerShellConnect-AzAccount для входа, учетные данные используются для проверки подлинности.
5. Интерактивный браузер: пользователь проходит интерактивную проверку подлинности через браузер по умолчанию.

Для интерактивных заданий, в которых есть пользователь, подключенный к сеансу, можно использовать интерактивную проверку подлинности. В дальнейших действиях нет необходимости.

Предупреждение

Интерактивная проверка подлинности браузера блокирует выполнение кода при запросе учетных данных. Этот подход не подходит для проверки подлинности в автоматических средах, таких как задания обучения. Рекомендуется настроить другой режим проверки подлинности в этих средах.

Для сценариев, требующих автоматического выполнения, необходимо настроить субъект-службу для взаимодействия с Машинное обучение Azure. Сведения о создании субъекта-службы см. в разделе "Настройка субъекта-службы".

Используйте идентификатор клиента, идентификатор клиента и секрет клиента субъекта-службы в следующем коде:

Пакет SDK для MLflow

import os

os.environ["AZURE_TENANT_ID"] = "<Azure-tenant-ID>"
os.environ["AZURE_CLIENT_ID"] = "<Azure-client-ID>"
os.environ["AZURE_CLIENT_SECRET"] = "<Azure-client-secret>"

Переменные среды

export AZURE_TENANT_ID="<Azure-tenant-ID>"
export AZURE_CLIENT_ID="<Azure-client-ID>"
export AZURE_CLIENT_SECRET="<Azure-client-secret>"

Совет

При работе в общих средах рекомендуется настроить эти переменные среды на уровне вычислений. Рекомендуется управлять ими в качестве секретов в экземпляре Azure Key Vault.

Например, в конфигурации кластера Azure Databricks можно использовать секреты в переменных среды следующим образом: AZURE_CLIENT_SECRET={{secrets/<scope-name>/<secret-name>}} Дополнительные сведения о реализации этого подхода в Azure Databricks см. в статье "Справочник по секрету в переменной среды" или в документации по вашей платформе.

Если вы предпочитаете использовать сертификат, чем секрет, можно настроить следующие переменные среды:

• Задайте AZURE_CLIENT_CERTIFICATE_PATH путь к файлу, который содержит пару сертификатов и закрытых ключей в формате "Расширенная почта конфиденциальности" (PEM) или "Стандарты шифрования открытого ключа" (PKCS #12).
• Задайте AZURE_CLIENT_CERTIFICATE_PASSWORD пароль файла сертификата, если он использует пароль.

Настройка уровней авторизации и разрешений

Некоторые роли по умолчанию, такие как AzureML Специалист по обработке и анализу данных и участник, уже настроены для выполнения операций MLflow в рабочей области Машинное обучение Azure. Если вы используете настраиваемую роль, вам потребуются следующие разрешения:

• Чтобы использовать отслеживание MLflow:

  • Microsoft.MachineLearningServices/workspaces/experiments/*
  • Microsoft.MachineLearningServices/workspaces/jobs/*

• Чтобы использовать реестр моделей MLflow, выполните следующие действия.

  • Microsoft.MachineLearningServices/workspaces/models/*/*

Сведения о предоставлении доступа к рабочей области субъекту-службе, создаваемому или учетной записи пользователя, см. в статье "Предоставление доступа".

Устранение проблем с проверкой подлинности

MLflow пытается выполнить проверку подлинности, чтобы Машинное обучение Azure при первой операции, которая взаимодействует со службой, например mlflow.set_experiment() или mlflow.start_run(). Если во время процесса возникают проблемы или непредвиденная проверка подлинности, вы можете увеличить уровень ведения журнала, чтобы получить дополнительные сведения об ошибке:

import logging

logging.getLogger("azure").setLevel(logging.DEBUG)

Задание имени эксперимента (необязательно)

Все запуски (циклы) MLflow регистрируются в активном эксперименте. По умолчанию запуски записываются в эксперимент с именем Default , который автоматически создается для вас. Вы можете настроить эксперимент, используемый для отслеживания.

Совет

При использовании Машинное обучение Azure CLI версии 2 для отправки заданий можно задать имя эксперимента с помощью experiment_name свойства в определении YAML задания. Вам не нужно настраивать его в скрипте обучения. Дополнительные сведения см. в разделе YAML: отображаемое имя, имя эксперимента, описание и теги.

Пакет SDK для MLflow

Используйте команду MLflow mlflow.set_experiment() для настройки эксперимента.

experiment_name = "experiment_with_mlflow"
mlflow.set_experiment(experiment_name)

Переменные среды

Используйте переменную MLflow MLFLOW_EXPERIMENT_NAME или MLFLOW_EXPERIMENT_ID среды для настройки эксперимента. Дополнительные сведения см. в интерфейсе командной строки или mlflow.start_run.

export MLFLOW_EXPERIMENT_NAME="experiment_with_mlflow"

Настройка поддержки неопубликованного облака Azure

Подключаемый модуль Машинное обучение Azure для MLflow по умолчанию настраивается для работы с глобальным облаком Azure. Однако вы можете настроить облако Azure, используемое с помощью переменной AZUREML_CURRENT_CLOUD среды:

Пакет SDK для MLflow

import os

os.environ["AZUREML_CURRENT_CLOUD"] = "AzureChinaCloud"

Переменные среды

export AZUREML_CURRENT_CLOUD="AzureChinaCloud"

Вы можете определить облако, используемое с помощью следующей команды Azure CLI:

az cloud list

В текущем облаке задано Trueзначение IsActive .

Связанный контент

Теперь, когда среда подключена к рабочей области в Машинное обучение Azure, вы можете начать работу с ней.

• Отслеживание экспериментов и моделей с помощью MLflow
• Управление реестром моделей в Машинное обучение Azure с помощью MLflow
• Обучение с помощью проектов MLflow в Машинное обучение Azure (предварительная версия)
• Рекомендации по развертыванию моделей MLflow