在 AI 操场中制作调用工具的代理原型

重要

此功能目前以公共预览版提供。

本文介绍如何在 AI Playground上进行工具调用 AI 代理 的原型设计。

使用 AI Playground 快速创建工具调用代理并实时与其聊天,以查看其行为方式。 然后,导出代理以在 Python 代码中部署或进一步开发。

若要使用代码优先的方法来创作代理,请参阅 章节中的“在代码中创作 AI 代理”

要求

工作区必须具有以下功能才能使用 AI Playground 对代理进行原型处理:

在 AI 操场中制作调用工具的代理原型

要制作调用工具的代理原型,请执行以下操作:

  1. 在操场中,选择带有“已启用工具”标签的模型。

    选择调用工具的 LLM

  2. 选择 工具 并选择一个要提供给代理的工具。 对于本指南,请选择内置的 Unity 目录函数,system.ai.python_exec。 此函数使代理能够运行任意 Python 代码。 若要了解如何创建代理工具,请参阅 AI 代理工具

    选择工具

  3. 发起聊天,测试现有的 LLM、工具和系统提示组合,并尝试不同的变体。

    制作 LLM 原型 原型

导出并部署 AI 操场代理

在 AI Playground 中制作 AI 代理原型后,将其导出到 Python 笔记本,将其部署到模型服务终结点。

  1. 单击 导出 以生成定义和部署 AI 代理的 Python 笔记本。

    导出代理代码后,三个文件将保存到工作区。 这些文件遵循 MLflow 的“从代码创建模型”方法,该方法直接在代码中定义代理,而不是依赖于序列化的构件。 若要了解详细信息,请参阅代码指南 MLflow 的模型:

    • agent 笔记本:包含使用 LangChain 定义代理的 Python 代码。
    • driver 笔记本:包含使用马赛克 AI 代理框架记录、跟踪、注册和部署 AI 代理的 Python 代码。
    • config.yml:包含有关代理的配置信息,包括工具定义。
  2. 打开 agent 笔记本以查看定义代理的 LangChain 代码。

  3. 运行 driver 笔记本,记录代理并将其部署到模型服务终结点。

注意

导出的代码的行为可能与 AI Playground 会话不同。 Databricks 建议运行导出的笔记本,以进一步迭代和调试,评估代理质量,然后部署代理以与他人共享。

在代码中开发代理

使用导出的笔记本以编程方式测试和迭代。 使用笔记本执行添加工具或调整代理参数等作。

以编程方式进行开发时,代理必须满足特定要求才能与其他 Databricks 代理功能兼容。 若要了解如何使用代码优先方法编写代理,请参阅 在代码中创作 AI 代理

后续步骤