模型选择和温度设置
在提示生成器中创建提示操作时,右侧的面板包括一个设置部分。 本节允许您设置这些参数:
- 生成式人工智能模型的版本
- 温度
本文探讨了这些参数的影响。
生成式 AI 模型版本
下拉菜单允许您在生成式人工智能模型中进行选择,根据您的自定义提示生成答案。
截至 2024 年 11 月,默认模型为 GPT 4o Mini(正式发布或 GA)。 也可以使用更强大的 GPT 4o 模型(GA)。 这些模型具体的次要版本可能会发生变化。
当您在 Power Apps 或 Power Automate 中使用提示操作时,它们会消耗 AI Builder 积分。
备注
在提示生成器中创建的依赖于此默认模型 GPT 3.5 的旧提示已经或将会自动升级到 GPT 4o Mini 模型。 政府云一直使用 GPT 3.5 模式,直到 2024 年 11 月结束。
选择模型
根据状态和许可规则在模型之间选择。
GPT 模型 | Status | 许可规则 | 功能 | 区域可用性 |
---|---|---|---|---|
GPT 4o Mini | GA - 默认模型 | 消耗 Power Apps 和 Power Automate 中的积分。 详细信息:Power Platform许可指南 | 根据截至 2023 年 12 月的数据进行训练。 上下文最多允许 128k 标记。 | 各个区域的提示功能可用性 |
GPT 4 | GA | 消耗 Power Apps 和 Power Automate 中的积分。 详细信息:Power Platform许可指南 | GPT 4o 具有 2023 年 10 月前的知识,上下文长度为 128k 标记。 | 各个区域的提示功能可用性 |
选择基于功能或基于场景的模型。
GPT-4o Mini 和 GPT-4o 的比较
因素 | GPT-4o Mini | GPT-4o |
---|---|---|
成本 | 成本更低、更具成本效益 | 更高,高级定价 |
绩效 | 适用于大多数任务 | 胜任复杂任务 |
速度 | 处理速度更快 | 可能由于复杂程度变慢 |
用例 | 汇总、信息任务 | 复杂的数据分析、推理和内容创建任务 |
决定叙述
当您需要经济高效的解决方案处理中等复杂的任务、计算资源有限或需要更快地处理时,选择 GPT-4o Mini。 它是具有预算约束的项目以及客户支持或高效代码分析等应用程序的理想选择。
当您处理需要卓越性能和详细分析的高度复杂的多模态任务时,选择 GPT-4o。 对于准确性和高级功能至关重要的大型项目,它是更好的选择。 另一个适合它的场景是您有预算和计算资源来支持它。 对于长期项目,可能不断增大的复杂程度也适合使用 GPT-4o。
在 Microsoft Copilot Studio 的上下文中使用 AI 提示
人工智能提示在 Copilot Studio 环境中不会消耗 AI Builder 积分,但在基于 GA 版本 GPT 模型时会消耗消息。
在 Power Platform 许可指南中了解有关消息使用的更多信息。
温度
滑块允许您选择生成式人工智能模型的温度。 温度在 0 到 1 之间变化,并指导生成式人工智能模型应该提供多少创造性 (1) 与确定性答案 (0)。
温度是一个控制 AI 模型生成的输出随机性的参数。 较低的温度导致更可预测和更保守的输出。 相比之下,温度越高,回复就越有创造性和多样性。 这是一种在模型输出中微调随机性和确定性之间平衡的方法。
与之前创建的提示一样,默认温度为 0。
温度 | 功能 | 使用位置 |
---|---|---|
0 | 更可预测和更保守的输出。 回复更加一致。 |
要求高准确性和较小可变性的提示。 |
1 | 回复更具创造性和多样性。 更多样且有时更创新的回复。 |
创建新的现成内容的提示 |
虽然调整温度可以影响模型的输出,但它不能保证特定的结果。 人工智能的回复具有内在的概率性,即使在相同的温度设置下也会有所不同。