Следующая архитектура расширяет сквозную аналитику с помощью сценария Azure Synapse Analytics . Он позволяет обучить пользовательскую модель машинного обучения (ML) в Машинное обучение Azure и реализовать с помощью пользовательского приложения, созданного с помощью Microsoft Power Platform.
Архитектура
Скачайте файл Visio этой архитектуры.
Рабочий процесс
Рабочий процесс состоит из следующих этапов:
- Прием
- Store (Сохранить)
- Обучение и развертывание модели
- Потребление
Прием
Используйте Azure Synapse Pipelines для извлечения пакетных данных из различных источников, как локальных, так и в облаке. Эта лямбда-архитектура имеет два потока приема данных: потоковую передачу и пакет. Они описаны здесь:
- Потоковая передача: в верхней половине предыдущей схемы архитектуры находятся потоки потоковых данных (например, потоки больших данных и устройства Интернета вещей).
- Для приема потоков данных, создаваемых клиентскими приложениями или устройствами Интернета вещей, можно использовать Центры событий Azure или Центры Интернета вещей Azure. Центры событий или Центр Интернета вещей приема и хранения потоковых данных, сохраняя последовательность полученных событий. Потребители могут подключаться к конечным точкам центра для получения сообщений для обработки.
- Пакетная служба: в нижней половине схемы архитектуры данные обрабатываются и обрабатываются в пакетах, таких как:
Неструктурированные данные (например, видео, изображения, аудио и бесплатный текст)
Полуструктурированные данные (например, JSON, XML, CSV и журналы)
Структурированные данные (например, реляционные базы данных и службы данных Azure)
Azure Synapse Link создает тесную простую интеграцию между Azure Cosmos DB и Azure Synapse Analytics. Конвейеры Azure Synapse можно активировать на основе предопределенного расписания или в ответ на событие. Их также можно активировать путем вызовов интерфейсы REST API.
Store (Сохранить)
Данные приема могут приземлиться непосредственно в необработанном формате, а затем преобразоваться в Azure Data Lake. Данные, проверенные и преобразованные в реляционные структуры, можно предоставить для использования в Azure Synapse Analytics.
Обучение и развертывание модели
Машинное обучение предоставляет службу машинного обучения корпоративного уровня для создания и развертывания моделей быстрее. Она предоставляет пользователям со всеми уровнями навыков конструктор с минимальным объемом кода, автоматизированное ML и размещенную среду Jupyter Notebook. Модели можно развертывать как конечные точки в режиме реального времени в Служба Azure Kubernetes, так и как управляемую конечную точку Машинное обучение. Для пакетного вывода моделей ML можно использовать конвейеры Машинного обучения.
Потребление
Пакетная или модель реального времени, опубликованная в Машинное обучение, может создать конечную точку REST, которую можно использовать в пользовательском приложении, созданном с помощью платформы Power Apps с низким кодом. Для представления прогнозов в бизнес-отчетах можно также вызвать конечную точку Машинного обучения для прогнозирования в реальном времени из отчета Power BI.
Примечание.
Как Машинное обучение, так и стек Microsoft Power Platform имеют ряд встроенных соединителей для прямого приема данных. Эти соединители могут быть полезны для минимального жизнеспособного продукта (MVP). Однако разделы "Прием" и "Магазин" архитектуры советуют по роли стандартных конвейеров данных для получения и хранения данных из разных источников в масштабе. Эти шаблоны обычно реализуются и поддерживаются командами корпоративной платформы данных.
Компоненты
Можно использовать следующие компоненты.
Службы Microsoft Power Platform
- Power Platform: набор средств для анализа данных, создания решений, автоматизации процессов и создания виртуальных агентов. Она включает в себя Power Apps, Power Automate, Power BI и Microsoft Copilot Studio (ранее — Power Virtual Agent).
- Power Apps: набор приложений, служб, соединителей и платформы данных. Он предоставляет среду быстрой разработки приложений для создания настраиваемых приложений в соответствии с потребностями бизнеса.
- Power Automate: служба, которая помогает создавать автоматизированные рабочие процессы между любимыми приложениями и службами. Используйте ее для синхронизации файлов, получения уведомлений, сбора данных и т. д.
- Power BI: коллекция программных служб, приложений и соединителей, которые работают вместе, чтобы превратить несвязанные источники данных в последовательные, визуально иммерсивные и интерактивные аналитические сведения.
Службы Azure;
- Машинное обучение: служба машинного обучения корпоративного уровня для быстрого создания и развертывания моделей. Эта служба предоставляет пользователям со всеми уровнями навыков конструктор с небольшим объемом кода, автоматизированное ML и размещенную среду Jupyter Notebook для поддержки выбранной IDE.
- Управляемые конечные точки Машинного обучения. Сетевые конечные точки, позволяющие развертывать модель без необходимости создания базовой инфраструктуры и управления ей.
- Служба Azure Kubernetes. Машинное обучение поддерживает различные целевые объекты вычислений. Одним из таких целевых объектов является Служба Azure Kubernetes, которая отлично подходит для корпоративных конечных точек модели для прогнозирования в реальном времени.
- Azure Data Lake: файловая система, совместимая с Hadoop. Она располагает интегрированным иерархическим пространством имен, ей присущ огромный масштаб и экономичность Хранилища BLOB-объектов Azure.
- Azure Synapse Analytics. Служба аналитики без ограничений, которая объединяет интеграцию данных, корпоративные хранилища данных и аналитику больших данных.
- Центры событий и Центр Интернета вещей: обе службы используют потоки данных, созданные клиентскими приложениями или устройствами Интернета вещей. Затем они принимают и сохраняют данные потоковой передачи без изменения последовательности полученных событий. Потребители могут подключаться к конечным точкам центра для получения сообщений для обработки.
Службы платформы
Чтобы улучшить качество решений Azure, следуйте рекомендациям в Azure Well-Architected Framework. Платформа состоит из пяти основных компонентов качественной архитектуры:
- Оптимизация затрат
- Эффективность работы
- Оптимизация производительности
- Надежность
- Безопасность
Чтобы создать проект с соблюдением эти рекомендаций, рассмотрите возможность использования следующих служб:
- Идентификатор Microsoft Entra: службы удостоверений, единый вход и многофакторная проверка подлинности в рабочих нагрузках Azure.
- Управление затратами Майкрософт: финансовое управление рабочими нагрузками Azure.
- Azure Key Vault. Защита учетных данных и управление сертификатами.
- Azure Monitor. Сбор, анализ и отображение данных телеметрии из ресурсов Azure. Используйте Монитор для упреждающего выявления проблем для повышения производительности и надежности.
- Microsoft Defender для облака. Повышение и отслеживание уровня безопасности рабочих нагрузок Azure.
- Azure DevOps и GitHub: реализуйте методики DevOps для обеспечения автоматизации и соответствия конвейерам разработки и развертывания рабочей нагрузки для Azure Synapse Analytics и Машинное обучение.
- Политика Azure. Реализация организационных стандартов и средств контроля согласованности ресурсов, соответствия нормативным требованиям, безопасности, расходов и управления.
Альтернативные варианты
MVP машинного обучения дает преимущества от скорости к результату. В некоторых случаях потребности пользовательской модели можно выполнить предварительно обученными Службами Azure Cognitive Services или приложение Azure lied AI Services. В других случаях Power Apps AI Builder может обеспечить соответствие модели назначения.
Подробности сценария
Общая тенденция развития технологий заключается в растущей популярности ролей пользователей, использующих средства ИИ. Такие роли являются бизнес-практиками, желающими улучшить бизнес-процессы с помощью применения технологий машинного обучения и искусственного интеллекта. Эта тенденция в значительной степени поддерживается растущей зрелостью и доступностью инструментов с минимальным объемом кода для разработки моделей ML.
Из-за известной высокой частоты сбоев в таких инициативах способность быстро прототипировать и проверять приложение ИИ в реальном мире становится ключевым инструментом для быстрого подхода. Существует два основных набора средств для разработки моделей по модернизации процессов и получения преобразующих результатов.
- Набор средств ML для всех уровней навыков
- Поддерживает разработку без кода для полностью закодированного машинного обучения
- Имеет гибкий графический пользовательский интерфейс с низким кодом (GUI)
- Позволяет пользователям быстро извлекать и подготавливать данные
- Позволяет пользователям быстро создавать и развертывать модели
- Содержит расширенные автоматизированные возможности ML для разработки алгоритмов ML
- Набор средств для разработки приложений с минимальным объемом кода
- Позволяет пользователям создавать настраиваемые приложения и рабочие процессы автоматизации
- Создает рабочие процессы для взаимодействия потребителей и бизнес-процессов с моделью ML
Машинное обучение выполняет роль низкокодового графического интерфейса для разработки машинного обучения. Она имеет автоматизированное машинное обучение и развертывание в пакетных или конечных точках в режиме реального времени. Power Platform, которая включает Power Apps и Power Automate, предоставляет набор средств для быстрого создания пользовательского приложения и рабочего процесса, реализующего алгоритм машинного обучения. Бизнес-пользователи теперь могут создавать рабочие приложения машинного обучения для преобразования устаревших бизнес-процессов.
Потенциальные варианты использования
Эти наборы средств сокращают время и усилия, необходимые для создания прототипа преимуществ модели ML в бизнес-процессе. Прототип можно легко расширить до рабочего приложения. Ниже перечислены варианты использования этих методов.
- Производственные операции с использованием устаревших приложений, которые применяют устаревшие детерминированные прогнозы. В таких ситуациях пригодится повышенная точность модели ML. Чтобы обеспечить повышенную точность, требуется интеграция модели и действий по разработке с локальными устаревшими системами.
- Центр обработки вызовов с устаревшими приложениями, которые не изменяются при перемещении данных. Модели, которые автоматически переобучение могут обеспечить значительное увеличение скорости прогнозирования или точности профилирования рисков. Проверка требует интеграции с существующими системами управления отношениями клиентов и управления билетами. Интеграция может быть дорогой.
Рекомендации
Эти рекомендации реализуют основные принципы платформы Azure Well-Architected Framework, которая является набором руководящих принципов, которые можно использовать для улучшения качества рабочей нагрузки. Дополнительные сведения см. в статье Microsoft Azure Well-Architected Framework.
Надежность
Надежность гарантирует, что ваше приложение позволит вам выполнить ваши обязательства перед клиентами. Дополнительные сведения см . в контрольном списке проверки конструктора для обеспечения надежности.
Большинство компонентов, используемых в этом примере сценария, — это управляемые службы, которые масштабируются автоматически. Доступность служб, используемых в этом примере, зависит от региона.
Как правило, приложениям на основе ML требуется один набор ресурсов для обучения, а другой — для обслуживания. Ресурсам, необходимым для обучения, обычно не требуется высокий уровень доступности, поскольку динамичные производственные запросы не выполняются к ним напрямую. Ресурсам, необходимым для обслуживания запросов, нужен высокий уровень доступности.
Оптимизация затрат
Оптимизация затрат заключается в том, чтобы подумать о способах сокращения ненужных расходов и повышения эффективности работы. Дополнительные сведения см . в контрольном списке проверки конструктора для оптимизации затрат.
Цены на Azure: инфраструктура как услуга (IaaS) и платформа как услуга (PaaS) в Azure используют модель ценообразования на основе потребления. Лицензия или плата за подписку не требуются. В общих случаях для оценки затрат используйте калькулятор цен Azure. Дополнительные сведения см. в статье "Оптимизация затрат" в хорошо спроектированной платформе.
Цены на Power Platform: Power Apps, Power Automate и Power BI — это программное обеспечение как услуга (SaaS) и имеют собственные модели ценообразования, включая план приложения и пользователя.
Эффективность работы
Операционное превосходство охватывает процессы, которые развертывают приложение и продолжают работать в рабочей среде. Дополнительные сведения см . в контрольном списке проверки конструктора для повышения эффективности работы.
Для оркестрации комплексного подхода в этом примере применяются методики DevOps. В руководстве Машинное обучение DevOps представлены рекомендации и учебные курсы по внедрению операций машинного обучения (MLOps) в организации с Машинное обучение.
Автоматизация DevOps может применяться к решению Microsoft Power Platform, предоставленному в этом примере. Дополнительные сведения о Microsoft Power Platform DevOps см. в статье Power Platform Build Tools for Azure DevOps: Power Platform.
Развертывание этого сценария
Рассмотрим этот бизнес-сценарий. Агент поля использует приложение, которое оценивает цену на рынок автомобиля. С помощью Машинного обучения можно быстро создать прототип модели ML этого приложения. Используя конструктор с минимальным объемом кода и функции ML, вы создадите модель, а затем развернете ее как конечную точку REST для прогнозирования в реальном времени.
Модель может доказать концепцию, но у пользователя нет простого способа использовать модель, реализованную как REST API. Microsoft Power Platform может помочь закрыть эту последнюю милю, как представлено здесь.
Ниже приведен пользовательский интерфейс для приложения, созданного в Power Apps с помощью имеющегося интерфейса с минимальным объемом кода.
Используйте Power Automate, чтобы создать рабочий процесс с минимальным объемом кода для анализа входных данных пользователя, их передачи в конечную точку Машинного обучения и получения прогноза. А с помощью Power BI можно взаимодействовать с моделью Машинного обучения и создавать настраиваемые бизнес-отчеты и панели мониторинга.
Чтобы развернуть этот комплексный пример, выполните пошаговые инструкции по прогнозированию цен на автомобиль — Машинное обучение Azure + решение Power App.
Расширенные сценарии
Рассмотрим следующие сценарии.
Развертывание в Teams
Пример приложения, предоставленного в предыдущем примере, также можно развернуть в Microsoft Teams. Teams является отличным каналом распространения приложений и средой совместной работы пользователей над приложениями. Дополнительные сведения о развертывании приложения в Teams с помощью Power Apps см. в статье "Публикация приложения с помощью Power Apps в Teams: Power Apps".
Использование API из нескольких приложений и автоматизаций
В этом примере будет настроен облачный поток Power Automate для использования конечной точки REST в качестве действия HTTP. Вместо него можно настроить пользовательский соединитель для конечной точки REST и использовать его непосредственно из Power Apps или из Power Automate. Этот подход полезен в случае, когда требуется, чтобы несколько приложений использовали одну и ту же конечную точку. Она также обеспечивает управление с помощью политики защиты от потери данных соединителя (DLP) в Центре администрирования Microsoft Power Platform. Сведения о создании пользовательского соединителя см. в статье "Использование пользовательского соединителя из приложения Power Apps". Дополнительные сведения о DLP соединителях Microsoft Power Platform см. в политиках защиты от потери данных: Power Platform.
Соавторы
Эта статья поддерживается корпорацией Майкрософт. Первоначально она была написана следующим образом:
- Vyas Dev Venugopalan | Специалист по Azure Data и AI
Следующие шаги
- Принцип работы Машинное обучение: архитектура и понятия
- Создание интеллектуальных приложений с помощью ИИ мирового класса