Изучение стратегий развертывания модели

Завершено

После обучения модели следующий шаг — развертывание. Для эффективного развертывания модели необходимо использовать MLflow.

MLflow помогает управлять всем процессом, от параметров ведения журнала и метрик до упаковки и совместного использования модели.

Кроме того, необходимо рассмотреть способ развертывания модели. Вы можете выбрать прогнозирование в режиме реального времени с помощью службы модели ИИ Мозаики или пакетного прогнозирования с заданиями Azure Databricks. Кроме того, вы можете интегрироваться с Машинное обучение Azure и использовать встроенные возможности для развертывания модели в режиме реального времени или пакетной конечной точки.

Независимо от выбранного подхода развертывание модели гарантирует, что ваша модель готова к рабочей среде и может предоставлять необходимые аналитические сведения.

Использование MLflow для управления моделями

Azure Databricks работает с MLflow. MLflow — это платформа с открытым кодом для управления всем жизненным циклом машинного обучения.

С помощью MLflow можно отслеживать эксперименты, код пакета и совместно использовать модели и развертывать их. MLflow гарантирует, что модели постоянно управляются от разработки до рабочей среды.

Сервер отслеживания MLflow позволяет записывать параметры, метрики и артефакты MLflow. Возможности отслеживания MLflow предоставляют исчерпывающую запись производительности модели и помогают с воспроизводимостью.

Совет

Узнайте больше о том, как регистрировать, загружать, регистрировать и развертывать модели MLflow.

Развертывание моделей с помощью Databricks

Развертывание моделей с помощью Azure Databricks включает использование Службы модели ИИ для мозаики для создания API-интерфейсов производственного класса из пользовательских моделей Python.

Пользовательские модели Python — это модели, которые вы обучаете с помощью библиотек, таких как scikit-learn, XGBoost, PyTorch и преобразователи HuggingFace.

После обучения вы регистрируете обученную модель в формате MLflow и регистрируете ресурсы MLflow в каталоге Unity или реестре рабочих областей.

После регистрации вы можете создавать и запрашивать конечные точки, обеспечивая готовность моделей к прогнозированию в режиме реального времени, интегрируя конечную точку в решения.

Совет

Узнайте больше о том, как развертывать и запрашивать пользовательскую модель.

Создание пакетных прогнозов

В случаях использования, когда прогнозы в режиме реального времени не нужны, пакетное определение может быть более эффективной стратегией развертывания. Пакетные прогнозы часто используются в таких сценариях, как создание периодических отчетов или обновление хранилищ данных с помощью новых аналитических сведений.

Azure Databricks может параллельно обрабатывать большие наборы данных с помощью Apache Spark, что хорошо подходит для задач пакетного вывода.

При запуске задания Azure Databricks модель может применяться к большим объемам данных в запланированном режиме. Вы можете создавать пакетные прогнозы или аналитические сведения, которые могут храниться и получать доступ по мере необходимости.

Совет

Узнайте больше о том, как развертывать модели для пакетного вывода и прогнозирования.

Интеграция с Машинным обучением Azure

Azure Databricks интегрируется с Машинное обучение Azure, что позволяет развертывать модели в конечных точках в рабочей области Машинное обучение Azure.

Azure Databricks и Машинное обучение Azure работают с MLflow для управления моделями. Вы можете обучить модель в Azure Databricks и сохранить ее в виде модели MLflow. Затем можно зарегистрировать модель MLflow в рабочей области Машинное обучение Azure, после чего можно легко развернуть модель в пакетной или в режиме реального времени конечной точки.