智能 Microsoft 365 Copilot 副驾驶®如何决定使用哪个插件
智能 Microsoft 365 Copilot 副驾驶®是你个人的工作助手。 它有助于完成各种常规 任务,例如写作、总结、研究等。 Copilot 具有与这些不同类型的任务相对应的不同 技能 。 例如,Copilot 可以汇总会议中的操作项、建议对文件的编辑,或跟踪组织中给定主题的资源和专家。 每个技能都有自己的参数和输出,这些参数和输出是针对特定任务定制的。
与任何副驾驶一样,智能 Microsoft 365 Copilot 副驾驶®在某个时间点使用数据进行训练。 若要检索和处理新的实时信息,尤其是特定于组织和工作流的数据,Copilot 需要 插件。 插件为最终用户扩展了智能 Microsoft 365 Copilot 副驾驶®的技能和实用工具,使其能够从其剧目中选择正确的技能。
但是,当你寻求帮助时,Copilot 如何知道要使用哪种技能呢? 它如何解释你的请求并将其与可用的最佳技能相匹配? 这是智能 Microsoft 365 Copilot 副驾驶®业务流程协调程序的工作。
本文介绍 Copilot 的技能选择过程背后的逻辑,以及如何确保 Copilot 在每次机会时都使用插件,使用户受益。
重要
- API 插件目前仅支持作为 声明性代理中的操作。 智能 Microsoft 365 Copilot 副驾驶®中未启用它们。 有关演示如何将 API 插件添加到声明性代理的示例,请参阅 添加插件。
- 默认情况下,此功能在所有智能 Microsoft 365 Copilot 副驾驶®许可的租户中处于启用状态。 管理员可以基于用户和组禁用此功能,并控制各个插件的批准使用方式以及启用哪些插件。 有关详细信息,请参阅 在集成应用中管理 Copilot 代理。
Copilot 业务流程协调程序
在最终用户的自然语言输入到 Copilot 的自然语言输出之间,Microsoft Copilot业务流程协调程序在后台工作,从正确的插件选择和执行正确的技能 () , (最终用户给定任务的) 。
业务流程层表示基础大型语言模型 (LLM) 之间的接口,以及可以为客户的工作方式扩展、扩充和自定义 Copilot 的多种方式。
下图演示了智能 Microsoft 365 Copilot 副驾驶®业务流程协调程序如何在正确的时间以适当的技能选择正确的插件,即使有多个选项可供选择也是如此。
自然语言输入:用户向 Copilot 提交查询,例如“现在向我分配了哪些票证?”
初步检查:Copilot 对查询进行多项检查,包括负责任的 AI 检查和安全措施,以确保它不会造成任何风险。 如果查询未通过上述任何检查,Copilot 将终止交互。
推理:Copilot 业务流程协调程序制定一个计划,其中包括多个操作,这些操作试图响应用户的提示。
上下文和工具选择:业务流程协调程序从上下文存储中检索用户的聊天上下文,并集成 Microsoft Graph 中的数据以优化上下文。 然后,它会根据此更新的上下文调整初始查询,并将其转发到 LLM (大型语言模型,) 指导后续步骤。
LLM 可以使用 Copilot 的内置功能继续生成响应,或者可能确定需要其他数据。
如果需要进一步的信息,业务流程协调程序会根据插件说明及其函数说明,搜索插件 (工具,) 具有用户启用的插件中任务的正确技能。
函数匹配和参数确定:业务流程协调程序会制定包含用户初始查询、更新的上下文和所选插件的新提示,并将其呈现给 LLM。 LLM 评估输入,并指定该插件中用于处理任务的最佳插件和函数。 然后,它为业务流程协调程序提供收集所需信息所需的函数详细信息和参数。
工具执行:业务流程协调程序使用来自 LLM 的响应来构造 API 请求,并将请求发送到工具执行程序,该工具执行程序安全地检索位于 Copilot 基础结构外部的请求信息。 它执行请求并将结果发送回业务流程协调程序以供进一步处理。
结果分析和响应表述:业务流程协调程序将 API 响应集成到持续上下文中,并在持续推理循环中咨询 LLM,直到 LLM 认为适合生成最终响应。
响应:业务流程协调程序编译在推理过程中收集的所有信息,并将其提交给 LLM 以创建最终响应。 在确保响应符合负责任 AI 准则后,它会将响应发送回业务流程协调程序,业务流程协调程序将其记录在上下文存储中,并通过 Copilot UI 将其传送给用户。
自然语言输出:最后,业务流程协调程序向用户提供响应并更新会话状态。 Copilot 已准备好迎接下一个提示。
如果你想象用户向 Copilot 发出提示,就像建筑项目一样,那么 Copilot 业务流程协调程序就是 总承包商,负责协调和组织专业 分包商(即插件)的工作。 与总承包商类似,业务流程协调程序负责确保根据用户输入 (隐含的规范“完成”项目,换句话说,即 Copilot 的响应满足用户在请求) 中的意图。
但是,每个插件的责任是向 Copilot 提供对其技能的准确描述,并有效地执行其技能。 这可以灌输用户的信任感,并确保 Copilot 每次需要其技能时调用你的插件。 下一部分提供了有关如何优化插件和 OpenAPI 文档的更多详细信息,供业务流程协调程序查找和使用。
插件优化
智能 Microsoft 365 Copilot 副驾驶®可以从其剧目中的众多中唯一选择正确的技能。 但是,如何确保 Copilot 会选择 你的插件 来提供正确的技能呢?
答案在于如何描述插件、其技能和技能执行参数。 在插件清单中指定简洁准确的说明对于确保 Copilot 业务流程协调程序知道何时以及如何调用插件至关重要。
向业务流程协调程序描述插件的方式取决于生成的插件类型,如下表所总结。
插件类型 | 描述者 | 了解详细信息 |
---|---|---|
API 插件 | OpenAPI 说明 | 如何使 OpenAPI 文档在扩展 Copilot 时有效 |
Copilot Studio操作 | Copilot Studio对话映射中的名称和说明 | 使用生成 AI 协调副驾驶主题和操作 |
消息扩展插件 | 应用部件清单 | 消息扩展插件指南 |
匹配机制
当用户向 Copilot 提交查询时,业务流程协调程序会从已安装的插件) 搜索其技能 (函数 的完整目录,以识别最多五个技能,这些技能与查询最匹配。 业务流程协调程序首先尝试在词 法匹配) (精确字词进行匹配,并根据需要扩展其搜索范围,以包括描述性含义的匹配 (语义匹配) ,从特定函数名称到常规插件说明,直到填充所有五个候选函数槽。 具体而言,下面是 Copilot 插件函数选择的匹配机制的层次结构:
- 函数名称上的词法匹配。
- 函数说明上的语义匹配。 此步骤目前以个人预览版提供。
- 插件名称上的词法匹配 (将所有插件函数添加到候选列表) 。
- 插件名称上的语义匹配 (将所有插件函数添加到候选列表) 。
业务流程协调程序将遍历上述列表,直到填充所有五个候选函数槽。
后续步骤
了解有关优化插件可发现性和实用性的最佳做法。