Создание возможностей создания искусственного интеллекта с помощью Microsoft Cloud: руководство по независимым поставщикам программного обеспечения

Добро пожаловать в руководство по созданию уникальных возможностей Создания искусственного интеллекта (GenAI) в Microsoft Cloud. В качестве независимого поставщика программного обеспечения (ISV) вы находитесь в основной позиции, чтобы использовать возможности GenAI для инноваций и предоставления увлекательных решений вашим клиентам.

Что такое Microsoft Cloud?
Microsoft Cloud — это комплексная и интегрированная платформа, предлагающая широкий спектр возможностей и служб. Он включает в себя ИИ Azure, Microsoft 365, Microsoft Fabric и многое другое, поставив его на передний план глобальной революции создания искусственного интеллекта.

Эта платформа позволяет отображать собственные данные и функциональные возможности в различных областях, включая Microsoft 365, центр производительности и совместной работы, доступ к которым получают миллионы.

Это руководство поможет вам перейти к обширным возможностям, доступным в экосистеме Microsoft Cloud.

Что такое копилоты?
Мы называем копилот виртуальным помощником на основе ИИ, который повышает производительность пользователей, помогая людям с сложными когнитивными задачами, предоставляя контекстные предложения и управляя аналитическими сведениями с большими объемами данных. Эти копилы могут быть созданы в определенных клиентах или поставщиках программного обеспечения данных и контексте, предлагая возможность для поставщиков программного обеспечения создавать созданные интерфейсы искусственного интеллекта, которые понимают данные, относящиеся к бизнесу.

Сценарии и подходы

Схема, на которой перечислены три подхода к расширению программного обеспечения. Во-первых, расширение Copilot позволяет отображать данные и службу в Копилоты Майкрософт. Во-вторых, создание копилот позволяет создавать копилоты в любом месте с минимальным кодом и необязательным приемом данных Майкрософт. В-третьих, полный контроль позволяет создавать собственные комплексные возможности искусственного интеллекта. Каждый из трех вариантов содержит дополнительные сведения, описанные в следующем тексте.

В этом руководстве приводятся рекомендации по сценариям, помогающие поставщикам программного обеспечения при навигации по обширному полю GenAI в Microsoft Cloud. Наша цель — помочь вам выбрать наиболее подходящие шаблоны и технологии для ваших уникальных требований, упорядоченных в трех высокоуровневых подходах к разработке ИИ.

Наши подходы разбиты на шаблоны на основе сценариев, которые помогут вам найти наиболее подходящий путь для вашего сценария и требований.

Внимание

Обратите внимание, что эти подходы и их шаблоны не являются взаимоисключающими. Их можно объединить для создания специального решения, которое лучше всего соответствует вашим уникальным требованиям и сценариям.

Подход 1. Surface your data and services into Microsoft Copilots:

Этот подход предназначен для поставщиков программного обеспечения, желающих интегрировать свои данные и службы в Копилоты Майкрософт. Фокус использует подключаемые модули и соединители Graph для улучшения взаимодействия с пользователями.

Сценарий: я являюсь isV, где мои конечные пользователи выполняют работу в таких приложениях Майкрософт, как Teams, Word, Outlook, и они должны...

... доступ к информации с помощью интерфейсов естественного языка и у меня есть существующая служба, которую я хочу сделать доступной с помощью этих приложений Microsoft 365.

Шаблон A. Создание подключаемых модулей для расширения возможностей Copilot с помощью данных и функциональных возможностей ISV

... получите аналитические сведения из наших источников данных isV в сочетании с пользовательскими данными Microsoft Graph и бизнес-данными своей организации.

Шаблон B. Использование соединителей Graph для обеспечения доступности данных поставщика программного обеспечения для взаимодействия с Copilot.

Подход 2. Создание копилотов в любом месте с минимальным кодом и необязательной интеграцией данных Майкрософт:

Этот подход предназначен для поставщиков программного обеспечения, направленных на обогащение приложений данными и инструментами Майкрософт, или для создания собственных помощников по искусственному интеллекту с помощью Azure. Он включает использование API Microsoft Graph, подключаемых модулей Copilot Studio, библиотеки ИИ Teams или предоставление клиентам возможности создавать собственные возможности совместного использования с данными через соединители.

Сценарий: Я isV, где мои конечные пользователи работают в любом месте...

... и я хочу, чтобы они могли создавать собственные возможности copilot с помощью наших данных и служб.

Шаблон C. Разработка соединителей Power Platform для включения управляемых клиентом копилот в Copilot Studio

Сценарий: Я isV, где мои конечные пользователи работают в моих существующих приложениях и пользовательском интерфейсе, которые хотят, чтобы мы...

... включите данные Graph, ориентированные на пользователей Майкрософт, в мой copilot.

Шаблон D. Использование API Microsoft Graph в копилотах

... предоставляет взаимодействие с беседами в существующем приложении, которое может отвечать на вопросы и превращать беседы в действия.

Шаблон E. Создание собственных помощников по искусственному интеллекту с помощью Azure

Сценарий: я isv, который опыт Copilot предназначен для Microsoft Teams и включает требования к...

... создайте смарт-боты Teams, которые интегрируются с GenAI, запускают боты в Teams и имеют беседы с контекстом или используют интерфейс чата Teams, и я в качестве поставщика программного обеспечения ориентирован на сложную бизнес-логику.

Шаблон F. Использование библиотеки ИИ Teams для создания собственного copilot

Подход 3. Полный контроль: создание собственных интерфейсов искусственного интеллекта (BYO):

Этот подход ориентирован на поставщики программного обеспечения, стремящиеся создавать совершенно новые возможности искусственного интеллекта или копилоты с помощью таких средств, как Azure AI Studio и семантического ядра. Он предлагает максимальный контроль и настройку, обеспечивая неограниченные возможности.

Сценарий: Я isV, стремящийся разработать передовые возможности взаимодействия СИИ, которые...

... требует специализированной обработки сложных многомодальных данных, которые могут включать модели точной настройки ИИ в соответствии с конкретными потребностями точности.

... используйте пользовательские модели и службы ИИ поставщика программного обеспечения для специализированных решений.

... обеспечивает полный контроль над взаимодействием, включая системные запросы, температуру, тон и пользовательские требования к безопасности.

Шаблон G. Создание новых интерфейсов взаимодействия с ИИ или копилот с помощью существующих API с помощью Azure AI Studio

Шаблон H. Создание собственного copilot с семантическим ядром

Совет

Для более глубокого понимания мы рекомендуем изучить подробное содержимое, доступное по ссылкам get Started, предоставленным в каждом шаблоне.

Стек Microsoft Copilot состоит из трех отдельных уровней: серверная часть (с данными, сидящими в соответствующих репозиториях), уровень оркестрации ИИ в середине, а также интерфейсный интерфейс (интерфейс вашего copilot). В каждом уровне рекомендуется учитывать уровни, которые следует учитывать при создании copilot.

Поскольку поставщики программного обеспечения переходят от подхода 1 к подходу 3, они более глубоко взаимодействуют с каждым уровнем, предполагая более большие обязанности по разработке. Например, создание подключаемого модуля в разделе "Подход 1" означает, что корпорация Майкрософт обрабатывает оркестрацию ИИ, включая интеграцию данных и ответственный ИИ. И наоборот, для разработки пользовательского copilot может потребоваться полный контроль над пользовательским интерфейсом, уровнем оркестрации, управлением данными и ответственным ИИ.

Квадратная схема, показывающая компоненты Microsoft Copilot Stack. Обработка блоков — это метка "Безопасность ИИ и безопасность". В поле есть два раздела, разделенные соединителем. Верхний ящик стекает Copilot Studio, Microsoft Copilot, ваши копилоты и приложения Майкрософт вместе, а затем подключается к среднему соединителю с меткой "Оркестрация ИИ". Нижний прямоугольник стекает данные, базовые модели и цепочку инструментов ИИ и инфраструктуру искусственного интеллекта, со стрелками, указывающими обратно на средний соединитель с меткой "Оркестрация ИИ". В нижней части всего стека Microsoft Cloud охватывает всю часть продуктов.

Примечание.

Хотя "copilot" относится к общей концепции помощника по генерному ИИ, "Copilot" относится к конкретным продуктам Майкрософт, таким как Microsoft 365 Copilot или Dynamics 365 Copilot, с которыми могут интегрироваться поставщики программного обеспечения.

Каждый вариант зависит от сложности и усилий. Внедрение существующих Microsoft Copilots является простым, расширение их с помощью подключаемых модулей требует минимальных усилий, и создание нового опыта copilot может потребовать проектирования, науки и инженерии.

Важно помнить, что решение искусственного интеллекта является таким же хорошим, как и данные, на основе моделей и используемых в качестве контекста. Готовые к использованию Microsoft Copilots уже поддерживают ряд сценариев и могут быть расширены с помощью данных, функций и процессов. Однако пользовательский интерфейс нельзя расширить. Поэтому важно тщательно рассмотреть конкретный сценарий, как применять алгоритмы GenAI и как ваш пользователь (пилотный) может воспользоваться возможностями copilot.

Подход 1. Surface your data and services into Microsoft Copilots

Поставщики программного обеспечения, желающие использовать существующие службы, данные и процессы в приложениях Microsoft Copilots или Microsoft 365, могут сделать это путем создания подключаемых модулей и соединителей.

Такой подход позволяет, например, Microsoft 365 Copilot взаимодействовать с API из других программ и служб, просматривать актуальные сведения, выполнять действия и выполнять новые типы вычислений.

Шаблон A. Создание подключаемых модулей для улучшения существующих функциональных возможностей Copilot

Подключаемые модули — это расширения, которые расширяют возможности существующего Copilot, позволяя ему взаимодействовать с приложениями и службами ISV. Они могут расширить возможности пользователя, включив взаимодействие с API через беседу на естественном языке. Например, подключаемый модуль может позволить Copilot получать полезные сведения, выполнять новые вычисления или безопасно выполнять действия от имени пользователя.

Схема, показывающая четыре компонента Microsoft Copilot и их подключенную ткань. Во-первых, данные Microsoft Graph указывают на Microsoft Copilot. Затем Microsoft Copilot имеет двунаправленную стрелку и получение от компонента подключаемого модуля подключения к приложению ISV. Приложение ISV подключено к источнику данных ISV.

Поставщики программного обеспечения могут создавать подключаемые модули с помощью различных средств, включая расширения сообщений Teams и подключаемые модули Power Platform через Copilot Studio. Новые подключаемые модули можно опубликовать в экосистеме Microsoft Copilot через Центр партнеров, где ИТ-администраторы могут утвердить их для использования конечными пользователями.

Сценарии поставщика программного обеспечения:

• Поставщики программного обеспечения, желающие использовать существующие службы в клиентских приложениях Microsoft 365
• Пользователи могут выполнять поиск, обновление и выполнение действий в приложении ISV или любых внешних системах из клиентских приложений Microsoft 365, таких как Teams, Outlook, Word и т. д.
• Пользователь в Teams может найти соответствующие сведения из внешней системы запроса или системы CRM, которую пользователи используют, при необходимости, включая выполнение действий от имени пользователя в системе.

Преимущество партнера:

• Обслуживание миллионов пользователей и компаний с помощью клиентских приложений Microsoft 365, встретиться с пользователями, где они работают прямо сейчас.
• Увеличьте видимость службы решения, зашифовав их в клиентских приложениях Microsoft 365.
• Уменьшите трение пользователей, устраняя необходимость перехода между несколькими приложениями и холстами.
• Согласованный пользовательский интерфейс для приложений Microsoft 365 с универсальной интеграцией и непрерывностью в приложениях Microsoft 365.
• Например, пользователь Contoso обнаруживает последнюю учетную запись клиента, полученную с данными, поступающими из внешней системы Outlook, SharePoint и Fabrikam, не покидая Teams.

Где начать:

• Сборка расширений сообщений для Microsoft Copilot для Microsoft 365 | Microsoft Learn
• Создание подключаемых модулей copilot — обзор (предварительная версия) — Microsoft Copilot Studio | Microsoft Learn

Ключевые моменты:

• Подключаемые модули — это способ поверхности служб и приложений isV в Microsoft Copilots, позволяющих конечным пользователям взаимодействовать с приложениями и службами ISV из клиентских приложений Microsoft 365.
• Поставщики программного обеспечения могут создавать подключаемые модули с помощью таких средств, как расширения сообщений Teams и подключаемые модули Copilot Studio.
• Подключаемые модули могут повысить видимость и доступность решения через Центр партнеров

Шаблон B. Использование соединителей Graph для переноса данных в интерфейс Copilot

Соединители Graph позволяют поставщикам программного обеспечения подключать свои данные к семантической индексу Microsoft 365. Их данные становятся доступными для поиска и действия для пользователей непосредственно из клиентских приложений Microsoft 365, таких как Teams, Outlook и Word. Microsoft Copilot становится наземленным в данных isV, будь то облачные или локальные, через Microsoft Graph. Кроме того, поставщики программного обеспечения могут использовать Microsoft Fabric, единую платформу данных, предоставляемую как продукт SaaS, для переноса данных в Microsoft Cloud и легкого подключения к Microsoft Graph.

Поставщики программного обеспечения могут создавать соединители Graph с помощью API соединителей Microsoft Graph, который поддерживает ряд источников данных, файловых систем, веб-страниц, корпоративных приложений и многое другое.

Соединители Graph также могут обогатить данные с помощью возможностей искусственного интеллекта, таких как обработка естественного языка, извлечение сущностей и анализ изображений. С помощью соединителей Graph поставщики программного обеспечения могут расширить Microsoft Copilot своими данными, повысить взаимодействие пользователей и обеспечить более персонализированное и безопасное взаимодействие.

Сотни соединителей Graph уже существуют. Например, соединитель графа Jira Cloud может повысить уровень объектов Jira до того же уровня, что и данные Microsoft 365 Graph, что позволяет выполнять комплексные причины и универсальную интеграцию, что приводит к улучшению и более богатой аналитике. Соединитель позволяет конечным пользователям искать объекты Jira из Microsoft 365 Copilot с помощью интерфейса естественного языка.

Сценарии поставщика программного обеспечения:

• Поставщики программного обеспечения, клиенты которых выполняют работу в Microsoft 365 и хотят предоставить конечным пользователям возможность получать аналитические сведения из источников данных ISV в сочетании с пользовательскими данными Microsoft Graph.
• Пользователи могут получать, суммировать и причины данных из приложений ISV, в сочетании с другими данными графа Microsoft 365, например электронной почты, word documents и т. д.
• Директор по коммуникациям должен найти и перерафовать электронные письма pr в Outlook, которые обогащены содержимым, источником содержимого из приложения графического дизайна ISV

Преимущество партнера:

• Встречайте пользователей, где они работают. Обширная пользовательская база использует клиентские приложения Microsoft 365 и теперь может получить доступ к собственным данным и службам в одном едином интерфейсе.
• Обогащенные аналитические сведения путем объединения данных ISV с данными Microsoft Graph.
• Универсальная интеграция с приложениями Microsoft 365 и Поиск (Майкрософт), Context IQ и Viva с одним соединителем.
• Расширенные каналы для демонстрации данных isV, потенциально увеличивая базу пользователей.

Где начать:

• Дополнительные сведения о соединителях графов см. в aka.ms/graph-connectors
• Создание собственного соединителя графа при сборке соединителей Microsoft Graph для Microsoft Copilot для Microsoft 365 | Microsoft Learn

Ключевые моменты:

• Соединители Graph позволяют поставщикам программного обеспечения перенести свои данные в экосистему Microsoft Copilot, повышая взаимодействие с пользователем с помощью персонализированных и безопасных взаимодействий.
• Поставщики программного обеспечения могут использовать Microsoft Fabric для переноса данных в Microsoft Cloud и подключения его к Microsoft Graph.
• С помощью соединителей Graph поставщики программного обеспечения могут объединять свои данные с данными графа Microsoft 365, чтобы обеспечить обогащенную аналитику и обеспечить универсальную интеграцию с приложениями Microsoft 365.

Подход 2. Создание копилот в любом месте с минимальным кодом и необязательной интеграцией данных Майкрософт

Поставщики программного обеспечения могут использовать средства и данные, сидящие в Microsoft Graph, в собственные приложения, повышая их функциональные возможности и взаимодействие с пользователем.

Шаблон C. Разработка соединителей Power Platform для включения управляемых клиентом копилот в Copilot Studio

Copilot Studio позволяет клиентам создавать приложения СИ СИ с низким кодом, которые могут отвечать на распространенные запросы пользователей, используя данные из своей организации и источников данных партнеров и Майкрософт. Copilot Studio использует соединители Power Platform для переноса данных из потенциально любого источника, где есть более 500 соединителей сегодня. В качестве поставщика программного обеспечения можно создавать соединители для данных и служб, чтобы предоставить клиентам возможность создавать собственные внутренние копилоты и приложения ИИ, на основе данных ISV.

Схема с компонентами подключаемого модуля Microsoft Copilot Studio. Три источника подключаются к подключаемого модуля Copilot Studio, включая данные Microsoft Graph, соединители Power Platform и другие источники данных. Затем подключаемый модуль Copilot Studio подключается к приложениям ISV через подключаемый модуль.

Эти приложения искусственного интеллекта можно использовать для конечных пользователей на различных платформах, включая веб-сайты, мобильные приложения, Microsoft Teams или любой канал, поддерживаемый Azure Bot Framework.

Примеры сценариев:

• Поставщики программного обеспечения, желающие предоставить клиентам интерфейс чат-бота, в существующих приложениях, которые могут отвечать на вопросы и превращать беседы в действия.
• Пользователи, задающие вопросы в приложении и получающие ответы в источниках данных поставщика программного обеспечения, Майкрософт или клиента.
• Создайте соединитель клиента из существующих API и преобразуйте его в подключаемый модуль с помощью Copilot Studio, что позволяет вызывать эти API из бота чата с помощью интерфейса естественного языка.
• Преобразуйте существующие потоки Power Automate в подключаемые модули, которые можно вызвать из чата Microsoft copilot для выполнения действий и получения сведений.
• Доступ к данным через интерфейс естественного языка из корпоративных систем, таких как Zendesk, GitHub и Salesforce через эти соединители в Power Platform.

Преимущество партнера:

• Используйте возможности существующих соединителей Майкрософт и сторонних корпораций, чтобы улучшить и расширить приложение без усилий.
• Ускорьте разработку подключаемого модуля, применяя пользовательский подход Power Platform для быстрой и эффективной интеграции.
• Расширьте время на значение с помощью низкокодовых возможностей Copilot Studio.
• Получите конкурентное преимущество путем интеграции возможностей ИИ в приложение с минимальным кодом.

Где начать:

• Архитектура подключаемого модуля Microsoft Copilot Studio — Microsoft Copilot Studio | Microsoft Learn
• Внедрение элемента управления Power Virtual Agent с помощью элемента управления chatbot | Microsoft Learn

Ключевые моменты:

• Copilot Studio предлагает платформу для создания приложений СИ СИ с низким кодом, которые могут улучшить существующие приложения с помощью возможностей чат-бота, размещенных в данных или функциях ISV.
• Платформа поддерживает как существующие соединители Power Platform, так и пользовательские соединители, обеспечивая гибкость в интеграции служб и источников данных ISV.
• Интеграция возможностей искусственного интеллекта может значительно улучшить взаимодействие с пользователем и дать вашему приложению конкурентное преимущество.

Шаблон D. Использование API Microsoft Graph в копилотах

API Microsoft Graph предлагает мощную конечную точку для доступа к пользовательским данным из приложений Microsoft 365, включая Calendar, Bookings, Outlook, Teams, OneDrive, SharePoint и многое другое. С помощью этого API вы можете дополнить приложения данными из Microsoft 365, что позволяет пользователям получать более подробные аналитические сведения и аналитику.

Схема, показывающая четыре компонента Microsoft Copilot и их подключенную ткань. Во-первых, данные Microsoft Graph указывают на Microsoft Copilot. Данные Microsoft Graph также имеют стрелку, соединяющую ее с приложением ISV, со стрелкой, символизирующей API Graph. Приложение ISV подключено к источнику данных ISV.

Сценарии поставщика программного обеспечения:

• Клиенты и партнеры, использующие существующее приложение ISV, стремятся комбинировать данные Microsoft, ориентированные на пользователя Graph в их copilot.
• IsV с приложением для управления проектами хочет включить данные календаря Microsoft 365 и документы проекта, чтобы помочь пользователям отслеживать крайние сроки и вехи в приложении.
• IsV с приложением CRM хочет включить контактные данные и данные электронной почты Microsoft 365 для улучшения профилей клиентов и журналов связи.

Рассмотрим Fabrikam, универсальное программное обеспечение управления персоналом (HCM), оснащенное гибким набором кадров, что позволяет легко автоматизировать различные рабочие процессы, такие как приобретение талантов, управление вознаграждениями сотрудников и процессы обратной связи. В их непрерывном поиске инноваций Fabrikam вводит передовые возможности copilot на вершине своего набора кадров. Теперь они стремятся повысить уровень приложения, интегрируя пользовательские данные графа. Это улучшение включает использование API Graph для включения календарей сотрудников, охватывающих такие сведения, как запланированные временные отключения и 1:1 для процессов обратной связи и т. д.

Преимущество партнера:

• Обнаружение обогащенных аналитических сведений путем объединения данных с Microsoft 365 Graph.
• Простая интеграция: стандартный доступ к данным Microsoft 365 для упрощения интеграции с приложениями.
• Улучшенный пользовательский интерфейс. Предоставление более простого взаимодействия с пользователем с доступом к соответствующим данным и функциям Microsoft 365 в приложении.
• Расширенные функциональные возможности. Добавление новых функций и возможностей в приложение с помощью данных Microsoft 365.
• Масштабируемость и эффективность. Сосредоточьтесь на создании и улучшении приложений, а API Graph обрабатывает извлечение данных.

Где начать:

• Использование обозревателя Graph для использования API Microsoft Graph — Microsoft Graph | Microsoft Learn
• Краткое руководство. Microsoft Graph

Ключевые моменты:

• API Microsoft Graph позволяет поставщикам программного обеспечения обогатить свои приложения пользовательскими данными из Microsoft 365.
• С помощью API Graph вы можете использовать семантический индекс Microsoft 365, более расширенный интерфейс поиска, созданный для эпохи Копилот.
• Используя API Graph, поставщики программного обеспечения могут улучшить свои приложения с помощью более подробных аналитических сведений и аналитики.

Шаблон E. Предоставление возможностей copilot для приложений с помощью Помощников По Azure OpenAI

Поставщики программного обеспечения могут применять этот подход с низким кодом в службах искусственного интеллекта Azure, чтобы обеспечить взаимодействие сопилотами с собственными приложениями. Он предлагает быстрый путь для применения вызова функции GPT для вызова собственных API, просто описывая структуру функции в JSON и предоставляя песочницу среду Python для запуска и выполнения кода, чтобы помочь сформулировать ответы на вопросы пользователя.

Обе эти функции могут быть полезны при разгрузке проблем, не основанных на языке, на обычный код или существующие системы, которые лучше подходят для задачи, например простые математические задачи.

Хотя у вас нет прямого доступа к системе запроса и температуры, вы также можете повлиять на поведение помощника с помощью пользовательских инструкций, которые имеют сильное влияние на личность вашего copilot-подобного опыта.

Преимущество партнера:

• Помощники По Azure OpenAI предоставляют подход с низким кодом, что позволяет поставщикам программного обеспечения быстро интегрировать возможности Создания ИИ в свои приложения без обширных усилий по разработке.

Где начать:

• Краткое руководство. Начало работы с Помощниками Azure OpenAI (предварительная версия) — Azure OpenAI | Microsoft Learn
• Создание помощников с помощью Службы Azure OpenAI в Azure OpenAI | Microsoft Learn

Ключевые моменты:

• Поставщики программного обеспечения могут использовать Помощники Azure OpenAI для создания интерактивных интерфейсов естественного языка, которые повышают взаимодействие пользователей. Эти помощники могут обращаться к API-интерфейсам, просто описывая их с помощью JSON.
• Помощник По Azure OpenAI может писать и выполнять код в песочнице на основе запроса пользователя, чтобы решить проблему, не связанную с GenAI.

Шаблон F. Использование библиотеки ИИ Teams для создания собственного copilot

Поставщики программного обеспечения также могут использовать библиотеку ИИ Teams для добавления возможностей естественного языка в существующий чат-бот Teams. Эта библиотека позволяет поставщикам программного обеспечения сосредоточиться на бизнес-логике, используя шаблон Teams для обработки взаимодействия с беседами. Поставщики программного обеспечения могут отображать свои чат-боты в Teams, предлагая пользователям более естественный и интуитивно понятный способ взаимодействия с приложениями.

Схема, показывающая поток шаблона библиотеки ИИ Microsoft Teams. Frist, запрос инженерии передается в библиотеку ИИ Teams. Затем данные передаются из библиотеки ИИ Teams в два источника: приложение ISV и Служба Azure OpenAI. Эти два расположения потоков данных двунаправленно.

Сценарий поставщика программного обеспечения:

• Конечные пользователи используют Teams и партнера ISV, чтобы предоставить доступ к своей службе или функциональности в Teams с возможностями bot-like.
• Интеграция с данными Graph и партнером isV не требуется сосредоточиться на службе и бизнес-логике без интеграции с возможностями Teams Copilot.
• Благодаря предварительно созданным шаблонам приложений Teams и встроенным функциям безопасности модерации партнер ISV может легко добавить возможности LLM в существующий чат-бот.

Преимущество партнера:

• Добавьте ЧатГПТ, например взаимодействие с беседами, с контролем над проектированием запросов к боту и повторное использование встроенных функций безопасности.
• Встроенный на основе готовых к повторному использованию возможностей, таких как
  • Журнал сеансов беседы, предлагаемый механизмом ИИ Teams.
  • Поддержка нескольких языков.
  • Многоуровневые языковые модели поддерживаются за пределами моделей OpenAI.
  • Планировщик действий, который может помочь сопоставить действия на основе намерения пользователя.
  • Готовы к использованию механизма расширения для изменения способа реагирования модели с помощью параметров или изменения системного запроса.
  • Дополнительная причина, которая может заземлить ответы от модели на ваших данных.

Где начать:

• Общие сведения о библиотеке ИИ Teams: библиотека ИИ Teams | Microsoft Learn
• Список технических возможностей: возможности библиотеки ИИ Teams — Teams | Microsoft Learn

Ключевые моменты:

• Библиотека ИИ команды позволяет легко осветить разработанный бот isV в Teams с поддержкой LLM.
• Она не требует интеграции с текущими возможностями Microsoft Copilot, может обеспечить ориентированный на задачи интерфейс.
• Он предлагает множество возможностей с инженерной точки зрения, но и готовы к использованию возможностей Out Of Box, что упрощает весь процесс разработки.

Если вы хотите использовать бот в Teams с помощью LLM, библиотека ИИ Teams — это способ, который вы сможете использовать.

Подход 3. Полный контроль: создание собственных интерфейсов ИИ

Поставщики программного обеспечения могут использовать Microsoft Copilot Stack для создания совершенно новых возможностей ИИ, как копилоты или интеллектуальные помощники. Сборка isV в этой средней части стека отвечает за оркестрацию ИИ, где корпорация Майкрософт предлагает различные варианты, все из которых применяют базовые модели Майкрософт, цепочку инструментов ИИ и инфраструктуру ИИ.

Семантические ядра можно использовать для создания одинаковых шаблонов оркестрации ИИ, которые позволяют Microsoft Copilots в копилоты. Он доступен в виде пакета SDK, который можно разрабатывать напрямую.

Квадратная схема, показывающая компоненты оркестрации стека Microsoft Copilot. Первое поле называется "Apps and Copilot Frontend" и подключается двунаправленной стрелкой к большему прямоугольнику с меткой "Оркестрация ИИ", которая заполнена компонентами стека. Внутри Copilot Studio, Azure AI Studio, поток запросов, оценки, эксперименты, каталог моделей, тонкое настройка, семантический ядро и Машинное обучение. Стек оркестрации ИИ подключен к другому прямоугольнику с меткой "базовые модели и данные". В нижней части всего стека Microsoft Cloud охватывает всю часть продуктов.

С большинством инвестиций, создающих службу copilot в середине стека, поставщики программного обеспечения имеют свободу подключать эту службу copilot к различным поверхностям, включая Teams, Microsoft 365 Copilot, Microsoft Copilot, ваши собственные поверхности приложений, веб-сайты, чат-боты или все. По сути, когда речь идет об интеграции с областью приложения — верхней частью нашего стека— каждый другой шаблон, описанный здесь, также является вариантом.

Шаблон G. Создание собственного copilot с помощью Azure AI Studio

Azure AI Studio — это единая платформа для поставщиков программного обеспечения для создания пользовательских, интеллектуальных помощников или копилот. Она объединяет возможности различных служб ИИ Azure, предоставляя единую рабочую область для разработки и развертывания создаваемых приложений ИИ. Это платформа для совместной работы, в которой специалисты по обработке и анализу данных, разработчики и другие заинтересованные лица могут объединиться и работать вместе.

Благодаря Azure AI Studio поставщики программного обеспечения получают полный контроль над поведением, личностью и возможностями copilot. Независимо от того, используют ли существующие предварительно обученные модели из нашего обширного каталога, модели точной настройки данных или обучение собственных пользовательских моделей ИИ, Azure AI Studio ускоряет разработку возможностей искусственного интеллекта, которые обрабатывают сложные многомодальные данные.

Выдающейся особенностью Azure AI Studio является его разнообразный спектр моделей, обслуживание различных отраслей и вариантов использования. Она позволяет независимым поставщикам программного обеспечения объединять различные модели в одном решении для удовлетворения своих уникальных требований.

Интеграция с поиском ИИ Azure позволяет независимым поставщикам программного обеспечения реализовать шаблон получения дополненного поколения (RAG) для неструктурированных данных непосредственно из Azure AI Studio с дополнительным преимуществом встроенной векторизации поиска ИИ. Это означает, что все данные, необходимые для copilot, могут быть автоматически обновлены в векторной базе данных, упрощая быстрое и эффективное извлечение во время оценки запроса пользователя, сохраняя задачу реализации индексирования, блокирования, внедрения и векторизации шаблона самостоятельно.

Поток запросов, компонент Azure AI Studio, предлагает визуализированный граф для оркестрации исполняемых потоков с большими языковыми моделями (LLMs), запросами и инструментами Python. Это упрощает отладку, общий доступ и итерацию потоков с легкостью через совместную работу команды.

Для команд поставщика программного обеспечения, которые предпочитают подход к коду, пакет SDK для ИИ Azure предлагает набор пакетов для доступа к службам ИИ Azure, включая настройку проектов Azure AI Studio и связанных ресурсов. Это позволяет разработчикам и специалистам по обработке и анализу данных управлять компонентами ИИ, настраивать модели ИИ, конвейеры и службы непосредственно из кода, делая графический интерфейс доступным для тех, кто предпочитает его.

Прототипы можно легко использовать в Студии искусственного интеллекта Azure с помощью своей игровой площадки. Типичное путешествие для команды, работающей над проектом в Azure AI Studio, может начаться с индивидуальной проверки идеи на детской площадке. После создания привлекательных результатов их можно получить на игровой площадке, чтобы запустить поток запроса в виде версии и настраиваемого потока. Теперь версия артефакта в проекте ИИ, более широкая команда может внести свой вклад, где поток доступен через пользовательский интерфейс Azure AI Studio и только для кода. Несколько ветвей логики для разных LLM можно протестировать и оценить на этом этапе.

Помимо этапа разработки, Azure AI Studio также предоставляет цепочку инструментов LLMOps, обрабатывая комплексное проектирование запросов от разработки до рабочей и текущей обслуживания.

Azure AI Studio поддерживает интеграцию с Azure AI Search, Azure Open AI Service и другими службами ИИ Azure, упрощая управление ресурсами для поставщиков программного обеспечения. Она также предоставляет рабочую область, ориентированную на проект, обеспечивая совместную работу с общими вычислительными ресурсами, развертываниями моделей и службами.

Сценарии поставщика программного обеспечения:

• Медицинский поставщик услуг здравоохранения, создающий платформу телемедийной идентификации, хочет копилота, который понимает медицинский жаргон, помогает врачам диагностировать пациентов и предоставляет соответствующие рекомендации по лечению.
• Поставщик финансовых услуг нуждается в copilot, который может анализировать тенденции рынка, отвечать на запросы клиентов о инвестиционных вариантах и создавать персонализированные финансовые отчеты.
• Платформа электронного обучения хочет сопилот, который обучает студентов, объясняет сложные понятия и адаптирует свой стиль обучения на основе индивидуальных предпочтений обучения.
• Страховая компания ускоряет анализ документов во время процесса утверждения, проверяя, может ли текущий иск быть охвачен контрактом.
• Авиакомпания copilot может помочь вам планировать путешествие, искать билеты и отели и забронировать их после того, как вы удовлетворены предложением.
• Сеть ресторанов создает приложение copilot, чтобы помочь новым сотрудникам получить подключение путем руководства их через весь процесс.
• IsV предлагает своим клиентам расширение VS Code, чтобы помочь разработчикам создать интеграцию с их API.

Преимущество партнера:

• Настройка и управление: создайте бесспогок copilot, который точно соответствует требованиям приложения.
• Гибкость сценария: обеспечивает широкий спектр сценариев, от копилот для конкретного домена до автоматизации задач и создания контента.
• Интеграция с существующими системами: подключение к базам данных, API и другим службам для улучшения возможностей copilot.
• Удостоверение бренда и взаимодействие с пользователем. Формирование личности copilot в соответствии с вашим голосом бренда и улучшение взаимодействия с пользователем.
• Интерфейс сборки: open-source и высоко расширяемый пакет SDK, семантический ядро позволяет создавать интеллектуальные агенты, которые могут вызывать существующие API. С помощью семантического ядра можно использовать одни и те же шаблоны оркестрации ИИ, которые позволяют корпорации Майкрософт копилоты в наших собственных приложениях.
• Масштабируемость и развертывание: разверните свой copilot в нескольких клиентах или приложениях, обслуживая тысячи пользователей одновременно.

Где начать:

• Что такое AI Studio? — Azure AI Studio | Microsoft Learn
• Создание и развертывание собственного copilot с помощью Потока запросов в Azure AI Studio | Microsoft Learn
• Создание и развертывание собственного copilot с помощью Azure AI CLI и SDK | Microsoft Learn

Ключевые моменты:

• Azure AI Studio предлагает мощную платформу для создания пользовательских, интеллектуальных помощников или копилот.
• Поставщики программного обеспечения могут формировать поведение, личность и возможности copilot, создавая действительно подходящее решение.
• Azure AI Studio поддерживает широкий спектр сценариев и легко интегрируется с существующей инфраструктурой.
• Создание пользовательского copilot с помощью Azure AI Studio может улучшить взаимодействие с пользователем и предоставить специализированные решения для конкретных вариантов использования.
• AI Studio предоставляет вам службу copilot (или серверную часть), доступную как единую масштабируемую конечную точку.
• После этого поставщик программного обеспечения может подключить службу к приложению, интерфейсу или области беседы, включая любой из предыдущих шаблонов выше.
• Помните, что этот шаблон можно сочетать с другими пользователями в зависимости от ваших потребностей. Например, может потребоваться связать этот шаблон с шаблоном A и подключаемым модулем в Microsoft Copilot или Pattern F, чтобы создать собственный бот copilot в Teams.

Шаблон H. Создание собственного copilot с семантическим ядром

Семантический ядро — это пакет SDK с открытым кодом, который позволяет разработчикам создавать сложные копилоты в своих приложениях. Он поддерживает различные языки программирования, включая C#, Java и Python, что делает его доступным для широкого сообщества разработчиков. Семантический ядро позволяет оркестрировать подключаемые модули ИИ, позволяя интегрироваться с различными моделями ИИ, включая Azure OpenAI и Hugging Face.

Семантический ядро инкапсулирует суть шаблонов оркестрации ИИ Microsoft Copilots, предоставляя разработчикам средства для создания агентов и копилот.

Агенты — это системы искусственного интеллекта, которые могут отвечать на вопросы и автоматизировать процессы для пользователей. Они варьируются от простых чат-ботов до полностью автоматизированных помощников по искусственному интеллекту. Копилоты, специальный тип агента, работают вместе с пользователями. В отличие от полностью автоматизированных агентов, копилоты предоставляют предложения и рекомендации, позволяя пользователям сохранять контроль.

Подключаемые модули: эти навыки предоставляют агенту. Подключаемые модули можно создавать для задач, таких как отправка сообщений электронной почты, получение сведений из баз данных или запрос справки.

Планировщики: агенты используют планировщиков для создания планов для выполнения задач. Например, copilot, помогающий пользователю писать сообщение электронной почты, создаст план с такими шагами, как сбор сведений о получателе и создание сообщения электронной почты.

Пакет SDK поставляется с расширением VS Code, примером приложения Chat Copilot , но и с начальными, чтобы предложить вам шаблон, чтобы предложить свои идеи для жизни.

Вы решили начать работу с семантического ядра, мы рекомендуем определить пару возможностей перед началом работы с кодом:

• Начните с определения личности и поведения copilot.
• Создайте подключаемые модули для распространенных задач, с которыми поможет copilot.
• Используйте планировщики для создания планов для действий copilot.
• Спланируйте тщательное тестирование, чтобы обеспечить улучшенный пользовательский интерфейс.
• Убедитесь, что вы можете собрать отзывы от пользователей и реализовать это в поведении агента или copilot.

Сценарии поставщика программного обеспечения:

• Вы создаете copilot, который является частью собственного приложения (средства разработки клиентов или системы кадров), и вы хотите, чтобы люди оставались в области одного пользовательского интерфейса.
• Вам нужен полный контроль над подсистемой оркестрации, реализацией RAG, выбором модели и параметрами модели.
• С помощью службы Copilot вы хотите разрешить клиентам создавать расширения на основе вашего решения с помощью подключаемых модулей.
• Решение использует холсты и другие носители, чем просто текст.

Преимущество партнера:

• Полный контроль над поведением copilot с доступом к подсистеме оркестрации с мнением, используемой Корпорацией Майкрософт для создания первой стороны Copilots.
• Легко на основе собственных корпоративных данных и интегрируются структурированные, неструктурированные и реальные данные с помощью Microsoft Fabric OneLake. Это позволяет разработчикам использовать сложный гибридный и семантический поиск для приложений расширенного поколения (RAG).
• Доступ к превосходным средствам для уточнения ответов ИИ с помощью средств разработки запросов и LLMOps, таких как поток запросов.

Где начать:

• GitHub — microsoft/semantic-kernel: быстро и легко интегрируйте передовые технологии LLM в приложения
• Создание агентов и копилот с помощью семантического ядра | Microsoft Learn
• Общие сведения о подключаемых модулях искусственного интеллекта в семантической ядре и за ее пределами | Microsoft Learn

Ключевые моменты:

• Семантический ядро — это платформа с открытым исходным кодом, помогая разработчикам создавать возможности GenAI в приложениях проще
• Она поддерживается и разрабатывается корпорацией Майкрософт и используется сторонними командами для создания решений Microsoft Copilot.
• С помощью набора примеров вы можете легко начать путешествие GenAI в собственном стеке приложений.
• Помните, что этот шаблон можно сочетать с другими пользователями в зависимости от ваших потребностей. Например, может потребоваться связать этот шаблон с шаблоном A и подключаемым модулем в Microsoft Copilot или Pattern F, чтобы создать собственный бот copilot в Teams.

Заключение

Мы начали с сценариев и купили вас к одному или нескольким шаблонам интереса, которые мы собрали в один из трех подходов. Хотя каждый шаблон имеет некоторые дисперсии, существуют некоторые общие функции для каждого подхода:

	Подход 1. Surface your data and services into Microsoft Copilots	Подход 2. Создание копилот в любом месте с минимальным кодом и необязательной интеграцией данных Майкрософт	Подход 3. Полный контроль: создание собственных интерфейсов ИИ
Усилия по разработке	Низкий (нет или низкий код)	Средний (минимальный код)	Высокий (профессиональный код)
Источники данных	Microsoft Graph (Microsoft/M365 или не Microsoft через соединители)	Различный. Соединители Power Platform, Microsoft Graph, API.	Может охватывать несколько источников данных, служб и приложений внутри или за пределами клиента Майкрософт
Пользовательский интерфейс или область беседы	Обеспечивается расширением Copilot, например Teams, Microsoft 365 и т. д.	Зависит от подхода, предоставляемого корпорацией Майкрософт, чтобы принести свой собственный подход.	Принесите свой собственный. Несколько поверхностей, возможно, с одним и тем же copilot
Влияние на тон, поведение и параметры модели copilot	Нет прямого элемента управления. Параметры модели отвечают за расширение Copilot.	Некоторые влияние особенно на поведение и тон, используя пользовательские инструкции, которые являются частью метапроимпта. С помощью библиотеки ИИ Teams можно управлять параметрами модели.	Прямой контроль параметров модели, таких как температура, системные запросы, максимальные маркеры и т. д. Пользовательское поведение copilot.
Поддержка нескольких моделей	No	No	Да Несколько вызовов различных моделей в одном потоке
Поддержка модели	Предоставляется системой	Выбор моделей OpenAI	Выбор любой модели OpenAI и полного каталога моделей
Ответственный ИИ	Предоставляется системой	Предоставляемые системой или доступные для использования параметры в каждом шаблоне	Ответственность поставщика программного обеспечения с параметрами платформы в каждом шаблоне.
Поддержка журнала чата	Предоставляется системой	Предоставляемые системой или доступные для использования параметры в каждом шаблоне	Ответственность поставщика программного обеспечения с параметрами платформы в каждом шаблоне.
Примеры сценариев	Пользователи в Microsoft Copilots могут выполнять действия или получать аналитические сведения от данных и служб ISV.	Введите помощник GenAI в существующей области приложений ISV, чтобы поставить причину по поводу данных клиента или поставщика программного обеспечения. Представить свой собственный copilot или chatbot в существующей поверхности Майкрософт, например Teams, с отдельным удостоверением и опытом в Microsoft Copilots.	Клиенты и пользователи взаимодействуют с полностью настроенным copilot для вашей торговой марки и поведения, что может помешать нескольким наборам данных и подключенным системам из нескольких вариантов пользовательского интерфейса или общения.

Эти подходы предназначены для повышения возможностей для настройки, что также требует от поставщика программного обеспечения для получения большей ответственности с помощью контроля, полученного и повышения общей работы по разработке.

Поэтому мы настоятельно рекомендуем начать с подхода 1, который может быть самым быстрым способом на рынок для ваших первоначальных требований. Корпорация Майкрософт часто выпускает новые сторонние копилоты. Постоянно проверяйте, может ли новый Copilot эффективно устранять потребности пользователей, расширяя данные и службы к нему.

Перейдите к подходу 2, а затем 3 постепенно, так как ваши требования приводят к необходимости большего контроля и настройки.

Исключение здесь, возможно, в том случае, когда isV уже имеет существующую возможность искусственного интеллекта в доме с существующими активами. Например, isV, который уже имеет команду GenAI с существующими процессами AIOps и уже имеет IP-адрес, созданный в python или LangChain, может быть лучше ориентирован на подход 3.

Окончательный ключевой выноска заключается в том, что этот список шаблонов не является исчерпывающим или взаимоисключающим. Мы курировали здесь выбор шаблонов, где мы видим взаимодополнимые эффекты для поставщиков программного обеспечения, и важно понимать, что они могут быть объединены различными способами, чтобы создать решение, которое идеально соответствует вашим потребностям. Например, при работе с подходом 3 (шаблонами G или H) может потребоваться внешний интерфейс. В этом случае вы можете использовать подключаемые модули (Шаблон A) или библиотеку ИИ Teams (Шаблон F) вместе с ней. Всегда учитывайте взаимодополняемости между различными шаблонами при планировании стратегии искусственного интеллекта.