你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

Azure AI Studio 中的提示流

重要

本文中标记了“(预览版)”的项目目前为公共预览版。 此预览版未提供服务级别协议,不建议将其用于生产工作负载。 某些功能可能不受支持或者受限。 有关详细信息,请参阅 Microsoft Azure 预览版补充使用条款

提示流是一种开发工具,旨在简化由大型语言模型 (LLM) 提供支持的 AI 应用程序的整个开发周期。 提示流提供一个综合性的解决方案,用于简化 AI 应用程序的原型设计、试验、迭代和部署过程。

提示流在 gitHub 上作为开源项目独立提供,具有自己的 SDK 和 VS Code 扩展。 提示流也在 Azure AI StudioAzure 机器学习工作室中提供,建议用作特征。 这组文档重点介绍 Azure AI Studio 中的提示流。

定义:

  • 提示流是可用于生成、自定义或运行流的功能
  • 流是可实现 AI 逻辑的可执行指令集。​可以通过多种工具(如预生成的画布、LangChain 等)创建或运行流。 流迭代可以另存为资产;部署流后,流将成为 API。 并非所有流都是提示流;提示流是创建流的一种方法。
  • 提示是发送到模型的输入包,由用户输入、系统消息和任何示例组成。 用户输入是在聊天窗口中提交的文本。 系统消息是对模型的行为和功能进行说明的一组指令。
  • 示例流是简单的预生成业务流程流,它显示流的工作原理,并且可以自定义
  • 示例提示是特定方案的定义提示,可以从库复制,按原样使用或在提示设计中修改

提示流的优点

使用 Azure AI Studio 中的提示流,可以:

  • 使用 LLM、提示和 Python 工具通过可视化图形协调可执行流。
  • 通过团队协作轻松调试、共享和迭代流。
  • 创建提示变体并比较它们的性能。

提示工程敏捷性

  • 交互式创作体验:提示流可提供流结构的可视化表示形式,使你能够轻松理解和处理项目。
  • 提示变体优化:可以创建和比较多个提示变体,从而促进迭代优化过程。
  • 评估:内置评估流使你能够评估其提示和流的质量和有效性。
  • 综合资源:提示流包含内置工具、示例和模板库,作为开发、激发创造力和加速流程的起点。

企业就绪情况

  • 协作:提示流支持团队协作,多个用户能够协作处理提示工程项目、共享知识和维护版本控制。
  • 一体化平台:提示流简化了从开发和评估到部署和监视的整个提示工程流程。 可以轻松将流部署为 Azure AI 终结点并实时监视其性能,确保实现最佳操作和持续改进。
  • 企业就绪解决方案:提示流应用强大的 Azure AI 企业就绪解决方案,为流的开发、试验和部署提供安全、可缩放且可靠的基础。

借助 Azure AI Studio 中的提示流,可以发挥提示工程的敏捷性、高效协作,并应用企业级解决方案成功开发和部署基于 LLM 的应用程序。

流开发生命周期

提示流提供了一个定义完善的流程,可促进 AI 应用程序的无缝开发。 在它的帮助下,可以有效地完成开发、测试、优化和部署流的阶段,最终创建完善的 AI 应用程序。

生命周期包含以下阶段:

  • 初始化:确定业务用例,收集示例数据,了解如何生成基本提示,并开发扩展其功能的流。
  • 试验:针对示例数据运行流,评估提示的性能,并在必要时迭代流。 持续试验,直到对结果满意为止。
  • 评估和优化:通过针对更大的数据集运行流来评估流的性能,评估提示的有效性,并根据需要进行优化。 如果结果满足所需条件,请继续下一阶段。
  • 生产:优化流,提高效率和有效性,部署它,监视生产环境中的性能,并收集使用情况数据和反馈。 使用此信息来改进流,并为以后的迭代改进早期阶段。

通过遵循这种结构化和有条不紊的方法,提示流使你能够自信地开发、严格测试、微调和部署流,从而创建可靠且复杂的 AI 应用程序。

流类型

在 Azure AI Studio 中,可以通过从库中选择流类型或模板来启动新流。

库中示例流类型和模板的屏幕截图。

下面是流类型的一些示例:

  • 标准流:为常规应用程序开发而设计,标准流使你能够使用各种内置工具创建流,以开发基于 LLM 的应用程序。 它为跨不同域开发应用程序提供了灵活性和通用性。
  • 聊天流:为对话式应用程序开发而设计,聊天流基于标准流的功能构建,并为聊天输入/输出和聊天历史记录管理提供增强支持。 借助本机对话模式和内置功能,可以在对话上下文中无缝开发和调试其应用程序。
  • 评估流:专为评估方案而设计,支持创建一个流,将先前流运行的输出作为输入。 此流类型支持评估先前运行结果的性能并输出相关指标,从而促进对其模型或应用程序的评估和改进。

提示流中的流充当可执行工作流,以简化基于 LLM 的 AI 应用程序的开发。 它提供了一个全面的框架,用于管理应用程序中的数据流和处理。

在流中,节点占据中心位置,表示具有独特功能的特定工具。 这些节点使用输入和输出处理数据处理、任务执行和算法操作。 通过连接节点,可以建立一个无缝的操作链,指导数据流通过应用程序。

为了辅助节点配置和微调,通过 DAG(有向无环图)图提供工作流结构的可视化形式。 此图展示了节点之间的连接和依赖关系,提供了整个工作流的清晰概况。

提示流编辑器中一个示例有向无环图的屏幕截图。

借助“提示流”中的流功能,可以设计、自定义和优化 AI 应用程序的逻辑。 节点的一致排列可确保高效的数据处理和有效的流管理,使你能够创建可靠且高级的应用程序。

提示流工具

工具是流的基本构建基块。

在 Azure AI Studio 中,工具选项包括 LLM 工具提示工具Python 工具等。

提示流编辑器中工具选项的屏幕截图。

每个工具都是具有特定函数的简单可执行单元。 通过组合不同的工具,可创建一个实现各种目标的流。 例如,可以使用 LLM 工具生成文本或汇总文章,使用 Python 工具处理文本,以通知下一个流组件或结果。

提示流工具的主要优势之一是与第三方 API 和 python 开源包无缝集成。 这不仅改进了大型语言模型的功能,而且使开发人员的开发过程更加高效。

如果 Azure AI Studio 中的提示流工具不符合你的要求,可以开发你自己的自定义工具,使其成为工具包。 要发现开放源代码社区开发的更多自定义工具,请访问提示流自定义工具

后续步骤