了解提示工程
发送到 AI 模型的输入提示的质量(如 Azure OpenAI 中提供的提示)会直接影响返回的内容的质量。 通过仔细构造发送到模型的提示,模型可以提供更好、更有趣的响应。
什么是提示工程
提示工程是设计和优化提示以更好地利用 AI 模型的过程。 设计有效的提示对于提示工程的成功至关重要,它可以显著提高 AI 模型在特定任务上的性能。 提供相关、具体、明确且结构良好的提示可以帮助模型更好地了解上下文并生成更准确的响应。
例如,如果我们希望 OpenAI 模型生成产品说明,我们可以为其提供详细说明,描述产品的功能和优势。 通过提供此上下文,模型可以生成更准确、更相关的产品说明。
提示工程还有助于缓解 AI 模型中的偏差并提高公平性。 通过设计具有多样性和包容性的提示,我们可以确保模型不会偏向于特定组或透视。
重要
无论可以设计多好的提示,AI 模型的响应都不应被视为事实或完全没有偏差。 始终负责地使用 AI。 有关详细信息,请参阅 Microsoft 关于 Azure OpenAI 的透明度说明和 Microsoft 的 AI 原则。
此外,提示工程可以帮助我们了解模型用来生成其响应的引用。 生成式 AI 模型具有大量参数,并且其遵循的逻辑对用户来说基本上是未知的,因此可能会对它如何得出响应感到困惑。 通过设计易于理解和解释的提示,可以帮助人类更好地了解模型如何生成其响应。 这在医疗保健等领域尤其重要,因此了解模型如何做出决策至关重要。
设计自己的提示时,可以使用不同的方法,其中许多方法在本模块的后续单元中进行了介绍。 其中包括提供说明、上下文内容、提示或少量示例,以及对提示中的内容进行正确排序。 此处介绍的方法并不详尽,因为此领域是一个微妙而流畅的主题。
API 终结点的注意事项
本模块其余部分的示例将重点介绍 ChatCompletion
。 值得注意的是,ChatCompletion
也可用于非聊天场景,其中任何说明都包含在系统消息中,用户内容在用户角色消息中提供。 如有需要,其中大多数示例可以改为使用 Completion
终结点。
就模型可用性而言,Completion
终结点可以用于 gpt-3
和更早版本,而 ChatCompletion
可用于 gpt-35-turbo
和更高版本的模型。
调整模型参数
除了本模块中讨论的技术外,调整模型参数可能会对响应产生重大影响。 特别是,temperature
和 top_p
(top_probability) 最有可能影响模型的响应,因为它们都控制模型中的随机性,但方式不同。
值越高,响应的创造性和随机性就越高,但可能不太一致或不太集中。 预期为虚构或唯一的响应受益于这些参数的较高值,而需要更一致且具体的内容应使用较低的值。
尝试使用相同的提示调整这些参数,以查看它们如何影响响应。 建议一次更改 temperature
或 top_p
,但不能同时更改两者。