了解核心组件并探索流类型
要使用提示流创建大语言模型 (LLM) 应用程序,需要了解提示流的核心组件。
了解流
提示流是 Azure AI Studio 中的一项功能,可用于创作流。 流是可执行的工作流,通常由三个部件组成:
- 输入:表示传入流的数据。 可以是不同的数据类型,如字符串、整数或布尔值。
- 节点:表示执行数据处理、任务执行或算法操作的工具。
- 输出:表示流生成的数据。
与管道类似,流可以包含多个节点,这些节点可以使用流的输入或另一个节点生成的任何输出。 可以通过选择一种可用类型的工具向流添加节点。
浏览提示流中可用的工具
三种常用工具包括:
- LLM 工具:利用大语言模型启用自定义提示创建。
- Python 工具:允许执行自定义 Python 脚本。
- 提示工具:准备字符串形式的提示,以用于复杂方案或与其他工具集成。
每个工具都是具有特定函数的可执行单元。 可以使用工具执行文本摘要或进行 API 调用等任务。 可以在一个流中使用多个工具,并且可以多次使用某个工具。
提示
如果要查找可用工具未提供的功能,则可以创建自己的自定义工具。
每当向流添加新节点,添加新工具时,都可以定义预期的输入和输出。 节点可以使用整个流的输入之一或另一个节点的输出,有效地将节点链接在一起。
通过定义输入、连接节点和定义所需的输出,可以创建流。 流有助于为各种目的创建 LLM 应用程序。
了解流类型
可以使用提示流创建三种不同类型的流:
- 标准流:非常适合开发基于 LLM 的常规应用程序,提供一系列多功能工具。
- 聊天流:专为聊天应用程序设计,增强了对聊天相关功能的支持。
- 评估流:专注于性能评估,通过对以前的运行提供反馈,可以对模型或应用程序进行分析和改进。
现在,你已了解流的构造方式及其用途,接下来让我们探讨如何创建流。