简介:端到端生成 AI 代理教程
此生成 AI 代理教程(以前称为 AI 指南)及其示例代码将你从概念证明(POC)带到使用 Databricks 平台上的马赛克 AI 代理评估和马赛克 AI 代理框架的高质量生产就绪应用程序。 还可以将 GitHub 存储库 用作创建自己的 AI 应用程序的模板。
请参阅 Generative AI 代理教程中的页面列表。
提示
可通过多种方式使用本教程生成 rag 应用:
- 如果你只有几分钟时间并且想查看 Mosaic AI 代理框架和代理评估的演示。
- 你想要 直接进入代码并使用数据部署 RAG POC。
- 你没有任何数据,但希望部署一个示例 RAG 应用程序。
我们所说的高质量 AI 是什么意思?
Databricks 生成 AI 代理教程是生成高质量生成 AI 应用程序的操作指南。 高质量应用程序具有以下特点:
- 准确:它们提供准确的响应
- 安全:它们不提供有害或不安全的响应
- 受管制:它们遵守数据权限和访问控制并跟踪数据世系
本教程介绍了用于生成高质量 RAG 应用的 Databricks 的最佳做法开发工作流:评估驱动开发。 它概述了提高 RAG 应用程序质量的最相关方法,并提供了实现这些技术的示例代码的综合存储库。
确保质量的 Databricks 方法
Databricks 采用以下方法来确保 AI 质量:
- 快速、代码优先的开发人员循环,可以快速迭代以改进质量。
- 使收集人类反馈变得容易。
- 提供了一个用于快速可靠地测量应用质量的框架。
本教程适用于 Databricks 平台。 具体而言:
- Mosaic AI 代理框架,它提供了一个具有企业级 LLMops 和治理功能的快速开发人员工作流。
- Mosaic AI 代理评估,它使用专有的 AI 辅助 LLM 判定提供可靠的质量测量,以测量质量指标,这些指标由通过直观的基于 Web 的聊天 UI 收集的人类反馈提供支持。
基于代码的工作流
从下面选择最能满足你的需求的工作流:
所需时间 | 要构建的对象 | 链接。 |
---|---|---|
10 分钟 | 部署到基于 Web 的聊天应用的示例 RAG 应用,用于收集反馈 | Rag 演示 |
2 小时 | 使用你的数据部署到聊天 UI 的 POC RAG 应用程序,可以从你的业务利益干系人那里收集反馈 | 构建并部署 POC |
1 小时 | POC 应用的综合质量、成本和延迟评估 | - 评估你的 POC - 确定质量问题的根本原因 |