什么是复合 AI 系统和 AI 代理?

Mosaic AI 代理框架可帮助开发人员应对开发 AI 代理和复合 AI 系统的独特挑战。 了解是什么使得 AI 应用程序成为 复合 AI 系统,以及 AI 代理

复合 AI 系统

复合 AI 系统是通过组合多个交互组件来处理 AI 任务的系统。 相比之下,AI 模型只是统计模型,例如,用于预测文本中的下一个令牌的转换器。 因为它们的性能和灵活性,复合 AI 系统是 AI 应用程序的越来越常见的设计模式。

有关详细信息,请参阅从模型转向复合 AI 系统

什么是 AI 代理?

整个行业仍在对 AI 代理进行定义,但通常将其理解为 模型在其中做出部分或全部规划决策的 AI 系统,与硬编码逻辑形成对比。 这些代理使用大型语言模型 (LLM) 做出决策并实现其目标。

许多 AI 代理应用程序由多个系统组成,因此将它们限定为复合 AI 系统。

代理是一个连续体,我们为模型提供的控制系统行为的自由越多,应用程序就越像代理。

AI 代理应用程序是复合 AI 系统的一部分

什么是工具?

AI 代理使用工具来执行语言生成以外的操作,例如检索结构化或非结构化数据、运行代码或与远程服务对话(例如发送电子邮件或 Slack 消息)。

在 Databricks 上,可以使用 Unity Catalog 函数作为工具,从而轻松发现、治理和共享工具。 还可以使用开放源代码代理创作库(如 LangChain)来定义工具。

在典型的代理工作流中,代理 LLM 会获得有关工具的元数据,用于确定何时以及如何使用该工具。 因此,在定义工具时,必须确保该工具、其参数和返回值都有详细的文档记录,以便代理 LLM 能够最佳地使用该工具。

从 LLM 到 AI 代理

若要理解 AI 代理,考虑 AI 系统的演进会对我们有帮助。

  1. LLM:最初,大型语言模型只是基于来自大型训练数据集的知识,对提示做出响应。

LLM 对用户做出响应

  1. LLM + 工具链:然后,开发人员添加硬编码工具来扩展 LLM 的功能。 例如,检索增强生成 (RAG) 使用自定义文档集来扩展 LLM 的知识库,而 API 工具让 LLM 能够执行创建支持票证或发送电子邮件等任务。

预先确定的工具链

  1. AI 代理:现在,AI 代理会基于它们对问题的理解,自主创建计划和执行任务。 AI 代理仍然使用工具,但由它们决定使用哪种工具,以及何时使用。 与复合 AI 系统相比,关键区别在于自主性和决策能力水平。

AI 代理利用工具来合理化计划并执行计划

从开发的角度来看,AI 应用程序(无论是单个 LLM、带有工具链的 LLM 还是完整的 AI 代理)都面临着类似的挑战。 Mosaic AI 代理框架可帮助开发人员管理各种复杂性级别上构建和 AI 应用程序的独特挑战。

AI 代理示例

下面是各个行业的 AI 代理的一些实例:

AI/BI:AI 支持的聊天机器人和仪表板接收自然语言提示,以便对商业数据执行分析,从其数据的完整生命周期中获取见解。 AI/BI 代理分析请求,确定要访问哪些数据源,以及如何传达结果。 AI/BI 代理旨在通过人工反馈,随着时间推移进行改进,提供工具来验证和优化输出。

客户服务:AI 支持的聊天机器人,例如客户服务平台使用的聊天机器人,与用户交互,了解自然语言,并提供相关的响应或执行任务。 公司将 AI 聊天机器人用于客户服务,包括回答查询、提供产品信息和协助故障排除。

制造预测性维护:AI 代理不只是简单地预测设备故障,还可通过订购更换件来自主操作设备,或者安排维护来减少停机时间并提高工作效率。

后续步骤

了解如何开发和评估 AI 代理:

动手 AI 代理教程: