使用 Microsoft 云创建生成 AI 体验：ISV 指南

欢迎使用 Microsoft Cloud 创建独特的生成 AI（GenAI）体验的指南。 作为一家 独立的软件供应商（ISV），你处于利用 GenAI 的强大功能来创新和为客户提供引人入胜的解决方案的最佳位置。

什么是Microsoft云？
Microsoft云是一个全面的集成平台，提供广泛的功能和服务。 它包括 Azure AI、Microsoft 365、Microsoft Fabric 等，使其处于全球生成 AI 革命的前沿。

此平台允许你将专有数据和功能呈现到各个领域，包括 Microsoft 365，这是数百万人访问的生产力和协作中心。

本指南可帮助你导航Microsoft云生态系统中可用的广泛可能性。

什么是警戒？
我们将 copilot 称为 AI 支持的虚拟助手，它通过帮助人类完成复杂的认知任务、提供上下文建议和驱动数据丰富的见解来提高用户工作效率。 这些副手可以基于特定的客户或 ISV 数据和上下文，为 ISV 提供创建可理解业务特定数据的生成 AI 体验的机会。

方案和方法

列出三种 copilot 扩展性 ISV 方法的关系图。 首先，通过扩展 Copilot，可以将数据和服务呈现到Microsoft的 Copilots 中。 其次，创建 copilots 允许你在任意位置使用最少的编码和可选的Microsoft数据引入来创建 copilot。 第三，完全控制使你能够构建自己的端到端 AI 体验。 这三个选项中的每一个都有以下文本中概述的更多详细信息。

本指南提供方案主导的指南，可帮助 ISV 在 Microsoft Cloud 上导航 GenAI 的广泛领域。 我们的目标是帮助你根据独特的要求选择最适合的模式和技术，这些模式和技术采用三种高级方法来打造 AI 体验。

我们的方法基于方案划分为模式，帮助你为方案和要求导航最合适的路径。

重要

请注意，这些方法及其模式 并非互斥。 它们可以组合在一起，以创建最符合独特要求和方案的定制解决方案。

方法 1：将数据和服务呈现到Microsoft的 Copilots 中：

此方法专为希望将其数据和服务集成到Microsoft的 Copilots 中的 ISV 而设计。 重点是使用插件和 Graph 连接器来增强用户体验。

场景：我是一个 ISV ，我的最终用户在 teams、Word、Outlook 等Microsoft应用中执行工作，他们需要...

...使用自然语言界面访问信息，我有一项现有服务，我想通过这些Microsoft 365 应用提供。

模式 A： 使用 ISV 数据和功能创建插件以增强 Copilot 的功能

...从 ISV 数据源中提取见解，并将其与以用户为中心的Microsoft图形数据及其组织的业务线数据相结合。

模式 B： 使用图形连接器使 ISV 数据可用于 Copilot 体验。

方法 2：随时随地创建 copilot，只需最少编码和可选的Microsoft数据集成：

此方法适用于 ISV，旨在使用Microsoft的数据和工具丰富其应用，或者想要使用 Azure 创建自己的 AI 助手。 它涉及使用Microsoft图形 API、Copilot Studio 插件、Teams AI 库，或让客户通过连接器创建自己的数据合作体验。

场景：我是一个 ISV，我的最终用户可在任何地方工作...

...我希望他们能够使用我们的数据和服务创建自己的 copilot 体验。

模式 C： 开发 Power Platform 连接器，以便在 Copilot Studio 中启用客户驱动的 copilot

场景：我是一个 ISV ，我的最终用户在现有应用程序和 UI 中工作，他们希望我们...

...将Microsoft以用户为中心的 Graph 数据合并到我的 copilot 中。

模式 D： 在 copilots 中使用Microsoft图形 API

...在现有应用程序中提供对话体验，它可以回答问题并将对话转换为操作。

模式 E： 使用 Azure 创建自己的 AI 助手

场景：我是一名 ISV，其 Copilot 体验面向 Microsoft Teams ，其中包括...

...创建与 GenAI 集成的智能 Teams 机器人，在 Teams 中运行机器人，并具有上下文感知对话或使用 Teams 聊天体验，而我作为 ISV 专注于复杂的业务逻辑。

模式 F： 使用 Teams AI 库构建自己的警察

方法 3：完全控制：构建自己的（BYO）端到端 AI 体验：

此方法适用于寻求使用 Azure AI Studio 和语义内核等工具创建全新的 AI 体验或共同操作的 ISV。 它提供最大的控制和自定义，提供无限的可能性。

场景：我是一个 ISV，试图开发先进的可互操作 AI 体验...

...需要专门处理复杂的多模式数据，这可能包括微调 AI 模型以满足特定准确性需求。

...将 ISV 的自定义 AI 模型和服务用于定制解决方案。

...提供对对话体验的完整控制，包括系统提示、温度、语气和自定义安全要求。

模式 G： 使用 Azure AI Studio 使用现有 API 生成新的可互操作 AI 体验或协同操作

模式 H： 使用语义内核生成自己的 copilot

提示

为了更深入地了解，我们鼓励你浏览每个模式中提供的入门链接中提供的详细内容。

Microsoft Copilot 堆栈包括三个不同的层：后端（包含位于相应存储库中的数据）、中间的 AI 业务流程层和前端（copilot 的 UI 体验）。 在每个层中，建议在生成 copilot 时考虑这些层。

随着 ISV 从方法 1 迁移到方法 3，他们更深入地参与每个层，承担更大的开发责任。 例如，在“方法 1”下创建插件意味着Microsoft处理 AI 业务流程，包括数据集成和负责任的 AI。 相反，开发自定义 copilot 可能需要完全控制用户体验、业务流程层、数据管理和负责任的 AI。

显示 Microsoft Copilot Stack 组件的方图。 将块包围在一起是标签“AI 安全和安全”。 在该框中，有两个部分由连接器分隔。 顶部框将 Copilot Studio、Microsoft Copilot、copilot 和Microsoft应用程序组合在一起，然后连接到标记为“AI 业务流程”的中间连接器。 底部框堆叠数据、基础模型和 AI 工具链以及 AI 基础结构，箭头指向标记为“AI 业务流程”的中间连接器。 在整个堆栈的底部，Microsoft云跨越了整个产品。

注意

虽然“copilot”是指生成式 AI 助手的一般概念，但“Copilot”是指特定的Microsoft产品，例如Microsoft 365 Copilot 或 Dynamics 365 Copilot，ISV 可以与之集成。

每个选项的复杂性和工作量各不相同。 采用现有的 Microsoft Copilots 非常简单，使用插件扩展它们需要最少的努力，并且创建新的 copilot 体验可能需要设计、科学和工程。

请务必记住，AI 解决方案与基于模型并用作上下文的数据一样好。 现成的 Microsoft Copilots 已经支持一系列方案，并且可以随数据、函数和进程一起扩展。 但是，无法扩展用户界面。 因此，请务必仔细考虑你的特定方案、如何应用 GenAI 算法，以及用户（“试点”）如何从你的 Copilot 功能中获益。

方法 1：将数据和服务呈现到 Microsoft 的 Copilots 中

希望将其现有服务、数据和进程呈现到 Microsoft 的 Copilots 或 Microsoft 365 应用程序的 ISV 可以通过生成插件和连接器来执行此操作。

例如，此方法允许Microsoft 365 Copilot 与其他软件和服务的 API 进行交互、显示最新信息、执行操作和执行新类型的计算。

模式 A：创建插件以增强现有 Copilot 的功能

插件是扩展，可增强现有 Copilot 的功能，使它能够与 ISV 应用和服务交互。 他们可以通过自然语言对话启用与 API 的交互来扩展用户的功能。 例如，插件可以允许 Copilot 检索有用信息、执行新计算或代表用户安全执行操作。

显示Microsoft科皮洛特及其连接组织的四个组成部分的关系图。 首先，Microsoft Graph 数据指向 Microsoft Copilot。 Microsoft Copilot 然后有一个双向箭头，用于从插件组件连接到 ISV 应用程序并从中接收。 ISV 应用程序连接到 ISV 数据源。

ISV 可以使用各种工具（包括 Teams 消息扩展和 Power Platform 插件）通过 Copilot Studio 创建插件。 可以通过合作伙伴中心将新插件发布到Microsoft的 Copilot 生态系统，IT 管理员可以批准它们供最终用户使用。

ISV 方案：

• 想要在 Microsoft 365 客户端应用上显示其现有服务的 ISV
• 用户可以从 Microsoft 365 客户端应用（如 Teams、Outlook、Word 等）搜索、更新和执行 ISV 应用程序或任何外部系统中的操作。
• Teams 上的用户可以从客户使用的外部票证或 CRM 系统中查找相关信息，（可选）包括在系统中代表用户执行操作

合作伙伴优势：

• 使用 Microsoft 365 个客户端应用为数百万用户和公司提供服务，以满足他们现在工作的用户。
• 通过在 Microsoft 365 客户端应用中显示解决方案服务可见性来增加其可见性。
• 无需在多个应用和画布之间导航，从而减少用户的摩擦。
• Microsoft 365 个应用之间的一致用户体验，Microsoft 365 应用具有通用集成和连续性。
• 例如，Contoso 用户发现汇总了来自 Outlook、SharePoint 和 Fabrikam 外部系统的数据的最新客户帐户，而无需离开 Teams。

从何处开始：

• 为 Microsoft 365 的 Microsoft Copilot 生成消息扩展 |Microsoft Learn
• 创建 copilot 插件 - 概述 （预览版） - Microsoft Copilot Studio |Microsoft Learn

主要要点：

• 插件是一种在 Microsoft Copilots 上呈现 ISV 服务和应用的方法，允许最终用户从 Microsoft 365 客户端应用与 ISV 应用和服务进行交互。
• ISV 可以使用 Teams 消息扩展和 Copilot Studio 插件等工具创建插件。
• 插件可以通过合作伙伴中心提高解决方案的可见性和可发现性

模式 B：使用图形连接器将数据引入 Copilot 体验

图形连接器 使 ISV 能够将其数据连接到 Microsoft 365 语义索引。 他们的数据可直接从 Microsoft 365 客户端应用（如 Teams、Outlook 和 Word）搜索和操作。 Microsoft Copilot 通过 Microsoft Graph 在 ISV 数据（无论是云还是本地）中建立基础。 此外，ISV 还可以使用 作为 SaaS 产品交付的统一数据平台 Microsoft Fabric，将其数据引入 Microsoft 云，并轻松地将其连接到 Microsoft Graph。

ISV 可以使用 Microsoft Graph 连接器 API 生成图形连接器，该 API 支持一系列数据源、文件系统、网页、企业应用程序等。

图形连接器还可以使用 AI 提供支持的功能（例如自然语言处理、实体提取和图像分析）来丰富数据。 通过使用 Graph 连接器，ISV 可以使用自己的数据扩展 Microsoft Copilot，增强用户体验，实现更个性化和安全交互。

已有数百个 Graph 连接器。 例如，Jira Cloud 图形连接器可以将 Jira 对象提升到与 Microsoft 365 Graph 数据相同的级别，从而实现全面的推理和通用集成，从而增强和更丰富的见解。 连接器允许最终用户使用自然语言界面从 Microsoft 365 Copilot 中搜索 Jira 对象。

ISV 方案：

• 客户在 365 Microsoft中执行工作的 ISV，并希望最终用户能够从 ISV 数据源中提取见解，并将其与以用户为中心的Microsoft Graph 数据相结合。
• 用户可以从 ISV 应用程序检索、汇总和推理数据，并结合其他Microsoft 365 图形数据，例如电子邮件、单词文档等。
• 通信总监需要在 Outlook 中查找和重新起草 PR 电子邮件，这些电子邮件使用来自 ISV 图形设计应用程序的内容进行扩充

合作伙伴优势：

• 了解他们工作的用户。 庞大的用户群使用 Microsoft 365 个客户端应用程序，现在可以在一个统一体验中访问自己的数据和服务。
• 通过将 ISV 数据与 Microsoft Graph 数据相结合来丰富见解。
• 与 Microsoft 365 应用以及一个连接器Microsoft 搜索、上下文 IQ 和 Viva 的通用集成。
• 扩展的通道以展示 ISV 数据，可能会增加用户群。

从何处开始：

• 在 aka.ms/graph-connectors 了解有关图形连接器 的详细信息
• 在适用于 Microsoft 365 的 Microsoft Copilot 生成自己的图形连接器Microsoft Graph 连接器 |Microsoft Learn

主要要点：

• 图形连接器允许 ISV 将数据引入 Microsoft Copilot 生态系统，通过个性化和安全交互增强用户体验。
• ISV 可以使用 Microsoft Fabric 将数据引入 Microsoft Cloud 并将其连接到 Microsoft Graph。
• 通过使用 Graph 连接器，ISV 可以将其数据与 Microsoft 365 图形数据相结合，以提供丰富的见解，并与 Microsoft 365 应用实现通用集成。

方法 2：使用最少的编码和可选的Microsoft数据集成在任意位置创建 copilot

ISV 可以将坐在 Microsoft Graph 中的工具和数据的强大功能引入自己的应用中，从而增强其功能和用户体验。

模式 C：开发 Power Platform 连接器，以便在 Copilot Studio 中启用客户驱动的 copilot

Copilot Studio 使客户能够创建低代码 AI 应用，这些应用可以使用组织中的数据以及Microsoft和合作伙伴数据源响应常见用户查询。 Copilot Studio 使用 Power Platform 连接器从可能的任何源引入数据，其中目前有 500 多个连接器。 作为 ISV，你可以创建数据和服务连接器，使客户能够创建自己的内部 COPILOT 和 AI 应用，这些应用以 ISV 数据为基础。

显示 Microsoft Copilot Studio 插件组件的关系图。 三个源连接到 Copilot Studio 插件，包括Microsoft Graph 数据、Power Platform 连接器和其他数据源。 然后，Copilot Studio 插件通过插件连接到 ISV 应用程序。

这些 AI 应用可以呈现给各个平台的最终用户，包括网站、移动应用、Microsoft Teams 或 Azure Bot Framework 支持的任何通道。

方案示例：

• 希望在其现有应用程序中为客户提供聊天机器人体验的 ISV，这些应用程序可以回答问题并将对话转换为操作。
• 用户在应用程序中提出问题，并接收以 ISV、Microsoft 或客户数据源为底的答案。
• 从现有 API 创建客户连接器，并使用 Copilot Studio 将其转换为插件，从而允许从具有自然语言界面的聊天机器人调用这些 API。
• 将现有的 Power Automate 流转换为可从Microsoft copilot 聊天调用的插件，以执行操作和检索信息。
• 通过企业系统（例如 Zendesk、GitHub 和 Salesforce）通过 Power Platform 中的这些连接器访问数据。

合作伙伴优势：

• 利用现有Microsoft和非Microsoft连接器的强大功能，轻松增强和丰富应用程序。
• 通过应用 Power Platform 自定义连接器方法来加快插件开发，以便快速高效集成。
• 通过 Copilot Studio 的低代码功能增强时间到值。
• 通过将 AI 功能集成到应用中，以最少的编码获得竞争优势。

从何处开始：

• Microsoft Copilot Studio 插件体系结构 - Microsoft Copilot Studio |Microsoft Learn
• 使用聊天机器人控件嵌入 Power Virtual Agents 控件 |Microsoft Learn

主要要点：

• Copilot Studio 提供了一个平台，用于创建低代码 AI 应用，这些应用可以通过基于 ISV 数据或函数的聊天机器人功能来增强现有应用程序。
• 该平台支持现有的 Power Platform 连接器和自定义连接器，提供集成 ISV 服务和数据源的灵活性。
• AI 功能的集成可以显著提高用户体验，并为应用提供竞争优势。

模式 D：在 copilots 中利用Microsoft图形 API

Microsoft图形 API 提供了一个强大的终结点，用于从 Microsoft 365 个应用程序访问以用户为中心的数据，其中包括日历、Bookings、Outlook、Teams、OneDrive、SharePoint 等。 使用此 API，可以使用来自 Microsoft 365 的数据丰富应用，使用户能够获取更丰富的见解和分析。

显示Microsoft科皮洛特及其连接组织的四个组成部分的关系图。 首先，Microsoft Graph 数据指向 Microsoft Copilot。 Microsoft Graph 数据还有一个箭头，它连接到 ISV 应用程序，箭头符号为图形 API。 ISV 应用程序连接到 ISV 数据源。

ISV 方案：

• 客户和合作伙伴使用现有的 ISV 应用程序，希望将Microsoft用户为中心的 Graph 数据组合到其 copilot 中。
• 具有项目管理应用的 ISV 希望合并Microsoft 365 日历数据和项目文档数据，以帮助用户跟踪应用中的最后期限和里程碑。
• 具有 CRM 应用的 ISV 希望合并 Microsoft 365 联系人和电子邮件数据，以增强客户配置文件和通信日志。

假设 Fabrikam 是一款多功能的人力资源管理（HCM）软件，它配备了灵活的 HR 套件，可无缝自动化各种工作流，例如人才获取、员工奖励管理和反馈流程。 在不断追求创新时，Fabrikam 在其 HR 套件上引入了一项尖端的警察功能。 现在，他们的目标是通过集成以用户为中心的图形数据进一步提升应用程序。 此增强功能涉及使用图形 API 合并员工的日历，包括计划休假和反馈流程的 1：1 等详细信息。

合作伙伴优势：

• 通过将数据与 Microsoft 365 Graph 相结合来发现扩充的见解。
• 无缝集成：标准化访问 Microsoft 365 数据，以便更轻松地与应用集成。
• 改进了用户体验：通过访问应用中的相关Microsoft 365 数据和功能，提供更无缝的用户体验。
• 增强功能：使用 Microsoft 365 数据向应用添加新特性和功能。
• 可伸缩性和效率：专注于构建和改进应用，而图形 API 处理数据检索。

从何处开始：

• 使用 Graph 资源管理器尝试Microsoft图形 API - Microsoft Graph |Microsoft Learn
• 快速入门 - Microsoft Graph

主要要点：

• Microsoft图形 API 允许 ISV 使用以用户为中心的数据从 Microsoft 365 扩充其应用。
• 通过 Graph API，可以利用 Microsoft 365 语义索引，这是为 Copilots 时代构建的更高级搜索体验。
• 通过使用图形 API，ISV 可以通过更丰富的见解和分析来增强其应用。

模式 E：使用 Azure OpenAI 助手为应用带来 Copilot 体验

ISV 可以在 Azure 的 AI 服务中采用这种低代码方法，以将类似警察的体验引入自己的应用程序。 它提供了一个快速路径，用于应用 GPT 的 函数调用 来调用自己的 API，只需描述 JSON 中的函数结构并提供沙盒 Python 环境来 运行和执行代码 ，以帮助制定对用户问题的响应。

这两项功能都可用于将基于语言的非语言挑战卸载到更适合该任务的传统代码或现有系统，例如简单的数学任务。

虽然你无权直接访问系统提示和温度，但同样可以通过自定义指令影响助手的行为，这些行为对类似 Copilot 的体验的个性有重大影响。

合作伙伴优势：

• Azure OpenAI 助手提供了一种低代码方法，使 ISV 能够快速将生成 AI 功能集成到其应用程序中，而无需进行广泛的开发工作。

从何处开始：

• 快速入门 - Azure OpenAI 助手入门 （预览版） - Azure OpenAI |Microsoft Learn
• 如何使用 Azure OpenAI 服务创建助手 - Azure OpenAI |Microsoft Learn

主要要点：

• ISV 可以使用 Azure OpenAI 助手创建交互式自然语言界面，以增强用户参与度。 这些助手只需通过 JSON 描述 API 即可调用 API。
• Azure OpenAI 助手可以根据用户的提示在沙盒中编写和执行代码，以解决非 GenAI 问题。

模式 F：使用 Teams AI 库构建自己的 copilot

ISV 还可以使用 Teams AI 库 在其现有的 Teams 聊天机器人中添加自然语言功能。 此库允许 ISV 专注于其业务逻辑，同时使用 Teams 基架来处理聊天交互。 ISV 可以在 Teams 中呈现聊天机器人，为用户提供更自然、更直观的方式来与其应用交互。

显示 Microsoft Teams AI 库模式流的关系图。 从弗里斯特，提示工程流向 Teams AI 库。 然后，数据从 Teams AI 库流入两个源：ISV 应用程序和 Azure OpenAI 服务。 这两个位置双向流动数据。

ISV 方案：

• 最终用户正在使用 Teams，ISV 合作伙伴希望通过类似机器人的功能在 Teams 上呈现其服务或功能。
• 无需与 Graph 数据集成，ISV 合作伙伴希望专注于服务和业务逻辑，而无需与 Teams Copilot 功能集成。
• 借助预生成的 Teams 应用模板和内置的审查安全功能，ISV 合作伙伴可以轻松地将 LLM 功能添加到其现有的聊天机器人。

合作伙伴优势：

• 添加 ChatGPT（如聊天体验），控制机器人的提示工程并重复使用内置安全功能。
• 基于可重用功能（如
  • Teams AI 机制提供的会话历史记录。
  • 多语言支持。
  • 除 OpenAI 模型外，多语言模型支持。
  • 可帮助根据用户意向映射到操作的操作规划器。
  • 准备好使用扩充机制来更改模型通过参数或系统提示更改做出响应的方式。
  • 额外的推理可以基于你的数据从模型获取答案。

从何处开始：

• Teams AI 库简介：Teams AI 库 - Teams |Microsoft Learn
• 技术功能列表：Teams AI 库功能 - Teams |Microsoft Learn

主要要点：

• Team AI 库提供了一种简单的方法，通过 LLM 的强大功能在 Teams 中点亮 ISV 开发的机器人。
• 它不需要与当前 Microsoft Copilot 功能集成，可以提供面向任务的体验。
• 它从工程角度提供了许多可能性，但也准备使用现成的功能，使整个开发过程更容易。

如果要使用 LLM 在 Teams 中为机器人提供支持，Teams AI 库就是你实现的一种方式。

方法 3：完全控制：构建自己的（BYO）端到端 AI 体验

ISV 可以使用 Microsoft Copilot Stack 构建全新的 AI 体验，作为副手或智能助手。 堆栈中此中间部分的 ISV 构建负责 AI 业务流程，其中Microsoft提供各种选项，所有这些选项都应用Microsoft的基础模型、AI 工具链和 AI 基础结构。

可以利用语义内核 在 copilots 中构建支持 Microsoft Copilots 的相同 AI 业务流程模式。 它以 SDK 的形式 提供，可以直接进行开发。

显示 Microsoft Copilot 堆栈业务流程的组件的方图。 第一个框标记为“应用和 Copilot 前端”，由双向箭头连接到标记为“AI 业务流程”的大型框，其中包含堆栈组件。 在 Copilot Studio、Azure AI Studio、提示流、评估、试验、模型目录、微调、语义内核和机器学习。 “AI 业务流程”堆栈连接到另一个标记为“基础模型和数据”的框。 在整个堆栈的底部，Microsoft云跨越了整个产品。

随着大多数投资在堆栈中间创建 copilot 服务，ISV 可以自由地将此 copilot 服务连接到各种表面，包括 Teams、Microsoft 365 Copilot、Microsoft Copilot、你自己的应用程序图面、网站、聊天机器人或全部。 本质上，当涉及到与应用程序图面（堆栈顶部）的集成时，此处所述的所有其他模式也是一个选项。

模式 G：使用 Azure AI Studio 构建自己的 Copilot

Azure AI Studio 是一个用于 ISV 构建自定义、智能助手或 Copilots 的一站式平台。 它结合了各种 Azure AI 服务的功能，提供用于开发和部署生成 AI 应用程序的统一工作区。 它是一个协作平台，数据科学家、开发人员和其他利益干系人可以融合和协作。

借助 Azure AI Studio，ISV 可以完全控制其 Copilot 的行为、个性和功能。 无论是使用我们广泛的目录的现有预先训练模型、对数据进行微调模型，还是训练自己的自定义 AI 模型，Azure AI Studio 都加速了处理复杂多模式数据的 AI 体验的开发。

Azure AI Studio 的突出功能是其各种模型，适用于各种行业和用例。 它允许 ISV 在单个解决方案中组合不同的模型以满足其独特的要求。

与 Azure AI 搜索 集成使 ISV 能够直接从 Azure AI Studio 为非结构化数据实现检索扩充生成（RAG）模式，并增加了 AI 搜索集成矢量化功能的优势。 这意味着，Copilot 需要的任何数据都可以在矢量数据库中自动保持最新状态，在用户提示评估期间促进快速高效的检索，从而节省自己实现索引、分块、嵌入和矢量化模式的任务。

提示流是 Azure AI Studio 的一项功能，提供可视化的图形，用于使用大型语言模型（LLM）、提示和 Python 工具协调可执行流。 它有助于通过团队协作轻松调试、共享和循环访问流。

对于首选代码优先方法的 ISV 团队，Azure AI SDK 提供了一套用于访问 Azure AI 服务的包，包括设置 Azure AI Studio 项目和相关资源。 这样，开发人员和数据科学家就可以直接从代码管理 AI 组件、配置 AI 模型、管道和服务，同时仍然使图形界面可供那些喜欢它的人使用。

原型制作可通过其 Playground 在 Azure AI Studio 中轻松实现。 在 Azure AI Studio 中处理项目的团队的典型旅程可以从在操场中验证想法的个人开始。 生成有吸引力的结果后，可以将它们从 Playground 提示流提示为版本化和自定义流。 现在，AI 项目中的版本控制项目，更广泛的团队可以参与其中，可通过 Azure AI Studio UI 和仅代码访问流。 此时可以测试和评估逻辑到不同 LLM 的多个分支。

除了开发阶段，Azure AI Studio 还提供 LLMOps 工具链，用于处理从开发到生产持续维护的端到端提示工程。

Azure AI Studio 支持与 Azure AI 搜索、Azure Open AI 服务和其他 Azure AI 服务的集成，从而简化 ISV 的资源管理。 它还提供面向项目的工作区，促进与共享计算、模型部署和服务协作。

ISV 方案：

• 一个医疗保健 ISV 构建远程医疗平台，希望一个了解医疗行话的警察，协助医生诊断患者，并提供相关的治疗建议。
• 金融服务提供商需要一个 copilot，可以分析市场趋势，回答客户有关投资选项的查询，并生成个性化的财务报告。
• 电子学习平台希望有一个警察，辅导学生，解释复杂的概念，并根据个人学习偏好调整其教学风格。
• 保险公司通过在索赔过程中验证合同是否可以涵盖当前索赔来加快文档分析的速度。
• 航空公司的警察可以帮助你规划旅程，寻找门票和酒店，并在你满意的产品/服务后预订它们。
• 一家餐馆连锁店正在创建一个 Copilot 应用，帮助新员工通过指导他们完成整个过程来加入。
• ISV 为客户提供 VS Code 扩展，以帮助开发人员构建与其 API 的集成。

合作伙伴优势：

• 自定义和控制：构建与应用程序要求完全一致的定制 copilot。
• 方案灵活性：迎合各种方案，从特定于域的警察到任务自动化和内容生成。
• 与现有系统集成：连接到数据库、API 和其他服务，以增强 copilot 的功能。
• 品牌标识和用户体验：塑造 Copilot 的个性，使其与品牌语音保持一致，并增强用户体验。
• 生成体验：开源和高度可扩展的 SDK，语义内核允许你生成可调用现有 API 的智能代理。 借助语义内核，可以使用在自己的应用中支持Microsoft的同一 AI 业务流程模式。
• 可伸缩性和部署：跨多个客户端或应用程序部署 copilot，同时为数千个用户提供服务。

从何处开始：

• 什么是 AI Studio？ - Azure AI Studio |Microsoft Learn
• 在 Azure AI Studio 中使用提示流生成和部署自己的 Copilot |Microsoft Learn
• 使用 Azure AI CLI 和 SDK 生成和部署自己的 copilot |Microsoft Learn

主要要点：

• Azure AI Studio 提供了一个功能强大的平台，用于创建自定义、智能助手或辅助功能。
• ISV 可以塑造他们的副手的行为、个性和能力，从而创建一个真正定制的解决方案。
• Azure AI Studio 支持各种方案，并与现有基础结构无缝集成。
• 使用 Azure AI Studio 创建自定义 copilot 可以增强用户体验，并为特定用例提供定制的解决方案。
• AI Studio 提供作为单个缩放终结点呈现的 copilot 服务（或后端）
• 然后，ISV 可以选择将服务连接到所选的应用、前端或对话图面，包括上述任何模式。
• 请记住，可以根据特定需求将此模式与其他模式组合在一起。 例如，你可能希望将此模式与 Pattern A 配对，并将插件连接到 Microsoft Copilot，或 Pattern F 在 Teams 中呈现自己的 copilot 机器人。

模式 H：使用语义内核生成自己的 copilot

语义内核是一种开源 SDK，它使开发人员能够在其应用程序中创建复杂的 copilot。 它支持一系列编程语言，包括 C#、Java 和 Python，使其可供广泛的开发人员社区访问。 语义内核支持 AI 插件的业务流程，允许与各种 AI 模型（包括 Azure OpenAI 和 Hugging Face）集成。

语义内核封装了 Microsoft Copilots 的 AI 业务流程模式的本质，为开发人员提供了生成 代理 和 copilot 的工具。

代理是 AI 系统，可以回答问题和自动执行用户的流程。 它们的范围从简单的聊天机器人到完全自动化的 AI 助手。 Copilots 是一种特殊类型的代理，与用户一起工作。 与完全自动化的代理不同，copilot 提供建议和建议，允许用户保留控制权。

插件：这些插件为代理提供技能。 可以为发送电子邮件、从数据库检索信息或寻求帮助等任务创建插件。

规划器：代理使用规划器生成完成任务的计划。 例如，帮助用户编写电子邮件的 copilot 会创建包含收集收件人详细信息和撰写电子邮件等步骤的计划。

SDK 附带了 VS Code 扩展、示例 聊天 Copilot 应用，还附带了初学者来提供基架，以让你的想法上线。

一个你决定开始使用语义内核，我们建议先定义几个功能，然后再开始编写代码：

• 首先定义警察的角色和行为。
• 为 copilot 将协助的常见任务创建插件。
• 使用规划器生成用于警察操作的计划。
• 计划全面测试，以确保优化用户体验。
• 确保能够收集用户的反馈，并在代理或 copilot 的行为中实现此情况。

ISV 方案：

• 你正在构建属于你自己的应用程序（客户开发工具或 HR 系统的一部分）的 copilot，并且你希望人们能够留在同一 UI 领域。
• 你需要对业务流程引擎、RAG 实现、模型选择和模型参数进行完全控制。
• 借助 Copilot 服务，你希望客户能够通过插件在解决方案的基础上构建扩展。
• 解决方案利用画布和其他媒体，而不仅仅是文本。

合作伙伴优势：

• 通过访问Microsoft用于生成第一方 Copilots 的有意见业务流程引擎，完全控制 copilot 行为。
• 使用 Microsoft Fabric OneLake 无缝地基于自己的企业数据并集成结构化、非结构化和实时数据。 这样，开发人员就可以使用复杂的混合搜索和语义搜索来支持检索扩充生成（RAG）应用程序。
• 使用提示工程和 LLMOps 工具（如提示流）访问高级工具以优化 AI 响应。

从何处开始：

• GitHub - microsoft/semantic-kernel：快速轻松地将尖端 LLM 技术集成到应用中
• 使用语义内核生成代理和 copilot |Microsoft Learn
• 了解语义内核及更高版本的 AI 插件 |Microsoft Learn

主要要点：

• 语义内核是一个有意见的开源框架，可帮助开发人员更轻松地将 GenAI 功能构建到其应用中
• 它由Microsoft维护和开发，由第一方团队用来构建Microsoft Copilot 解决方案。
• 借助一组示例，可帮助你在自己的应用程序堆栈中轻松开始 GenAI 之旅。
• 请记住，可以根据特定需求将此模式与其他模式组合在一起。 例如，你可能希望将此模式与 Pattern A 配对，并将插件连接到 Microsoft Copilot，或 Pattern F 在 Teams 中呈现自己的 copilot 机器人。

结束语

我们从方案开始，并已将你购买到一个或多个感兴趣的模式，我们已将其收集到三种方法之一。 虽然每个模式都有一些差异，但每种方法都有一些常见功能：

	方法 1：将数据和服务呈现到 Microsoft 的 Copilots 中	方法 2：使用最少的编码和可选的Microsoft数据集成在任意位置创建 copilot	方法 3：完全控制：构建自己的（BYO）端到端 AI 体验
开发工作	低（无/低代码）	中（最小代码）	高 （Pro 代码）
数据源	Microsoft Graph （Microsoft/M365 或非Microsoft通过连接器）	各种。 Power Platform 连接器、Microsoft Graph、API。	可以跨Microsoft租户内外的多个数据源、服务和应用
用户界面或对话图面	由 Copilot 提供，例如 Teams、Microsoft 365 等。	根据Microsoft提供的不同方法，自带。	自带。 可以使用同一副弹的多个表面
对 copilot 的语气、行为和模型参数的影响	无直接控制。 模型参数负责扩展 Copilot。	某些影响尤其是行为和语气的影响，通过构成元项目的一部分的自定义指令。 使用 Teams AI 库，可以控制模型参数。	直接控制模型参数，例如温度、系统提示、最大令牌等。自定义警戒行为。
支持多模型	否	否	是对同一流中不同模型的多次调用
模型支持	由系统提供	OpenAI 模型的选择	选择任何模型 OpenAI 和完整 模型目录
负责任的 AI	由系统提供	由系统提供，或每个模式中的可利用选项	ISV 负责每个模式中的平台选项。
支持聊天历史记录	由系统提供	由系统提供，或每个模式中的可利用选项	ISV 负责每个模式中的平台选项。
示例方案	Microsoft Copilots 中的用户可以对 ISV 数据和服务执行操作或获取见解。	在现有 ISV 应用程序图面中引入 GenAI 助手，以推理客户或 ISV 数据。 在现有Microsoft图面（如 Teams）中展示自己的 copilot 或聊天机器人，并具有 单独的标识 和体验来Microsoft Copilots。	你的客户和用户与 完全自定义的副手与你的品牌和行为进行交互，这可以通过多个数据集和连接的系统从多个 UI 或对话图面进行推理。

这些方法是为了增加自定义的可能性，这也要求 ISV 通过获得的控制来承担更多的责任，并增加整体开发工作。

因此，我们强烈建议从方法 1 开始，这很可能是初始要求上市最快的方法。 Microsoft经常发布新的第一党科皮洛特。 通过将数据和服务扩展到用户，持续签入以查看新的 Copilot 是否可以更有效地满足用户需求。

逐渐移动到“方法 2”，然后 3，因为你的要求将引导你获得更多的控制和自定义需求。

此处的一个例外是，ISV 已经拥有现有资产的内部 AI 功能。 例如，具有具有现有 AIOps 流程的 GenAI 团队且已在 Python 或 LangChain 中创建 IP 的 ISV 自然可能更适合方法 3。

最后一个关键标注是，此模式列表并不详尽或相互排斥。 我们在这里特选了一些模式，其中我们看到了 ISV 的协同效应，必须了解它们可以通过各种方式组合在一起，以创建完全符合你的需求的解决方案。 例如，在使用方法 3（Patterns G 或 H）时，可能需要前端。 在这种情况下，可以使用插件（模式 A）或 Teams AI 库（模式 F）以及它。 在规划 AI 策略时，请始终考虑不同模式之间的协同效应。