模型選項和溫度設定
在提示產生器中建立提示動作時,右側的面板會加入設定區段。 此區段可讓您設定以下參數:
- 生成式 AI 模型的版本
- 溫度
本文將探討這些參數的影響。
創成式 AI 模型版本
下拉式功能表可讓您在生成式 AI 模型中進行選擇,這些模型會產生自訂提示的答案。
截至 2024 年 11 月,預設模型為 GPT 4o Mini (正式發行,或 GA)。 也可以使用更強大的 GPT 4o 模型 (GA)。 這些模型的具體次要版本可能會發生變化。
當您在 Power Apps 或 Power Automate 中使用提示動作時,會消耗 AI Builder 點數。
注意
在提示產生器中建立的依賴於此預設模型 GPT 3.5 模型的舊提示已經或將自動升級到 GPT 4o Mini 模型。 政府雲繼續使用 GPT 3.5 模型,直到 2024 年 11 月底。
選擇模型
根據狀態和許可規則在模型之間進行選擇。
GPT 模型 | 執行狀態 | 授權規則 | 功能 | 區域可用性 |
---|---|---|---|---|
GPT 4o Mini | GA - 預設模型 | 耗用 Power Apps 和 Power Automate 中的點數。 其他資訊:Power Platform 授權指南 | 使用截至 2023 年 12 月的資料進行訓練。 環境最多允許 128,000 個標記。 | 依區域劃分功能可用性提示 |
GPT 4 | GA | 耗用 Power Apps 和 Power Automate 中的點數。 其他資訊:Power Platform 授權指南 | GPT 4o 的資料截至 2023 年 10 月,上下文長度為 128,000 個標記。 | 依區域劃分功能可用性提示 |
根據功能和情境選擇模型。
GPT-4o Mini 與 GPT-4o 的比較
因素 | GPT-4o Mini | GPT-4O |
---|---|---|
成本 | 更低、更具成本效益 | 更高的高端定價 |
績效 | 適用於大多數任務 | 非常適合處理複雜的工作 |
速度 | 處理速度更快 | 由於複雜性,可能會變慢 |
使用案例 | 摘要與資訊處理工作 | 複雜的數據分析、推理和內容創建任務 |
決策敘述
當您需要針對中等複雜任務的經濟高效的解決方案、計算資源有限或需要更快的處理速度時,請選擇 GPT-4o Mini。 它非常適合預算有限的專案以及客戶支援或高效代碼分析等應用程式。
當您處理需要卓越性能和詳細分析的高度複雜的多模式任務時,請選擇 GPT-4o。 對於準確性和高級功能至關重要的大型專案,它是更好的選擇。 另一個情境是,當你擁有足夠的預算和運算資源來支援它時,選擇 GPT-4o 會是一個更好的選擇。 GPT-4o 也更適合用於那些隨著時間推進可能變得更加複雜的長期專案。
在 Microsoft Copilot Studio 環境中使用 AI 提示
在 Copilot Studio 環境中,AI 提示不會耗用 AI Builder 點數,但在 GA GPT 模型上建置時會耗用訊息。
如需進一步瞭解訊息使用量,請參閱 Power Platform 授權指南。
溫度
滑桿可讓您選擇生成式 AI 模型的溫度。 其在 0 和 1 之間變化,並指導生成式 AI 模型應該提供多少創造力 (1) 與確定性答案 (0)。
溫度是控制 AI 模型生成的輸出隨機性的參數。 較低的溫度會產生更可預測和更保守的輸出。 相比之下,較高的溫度可讓回應更具創造力和多樣性。 這是一種在模型輸出中微調隨機性和確定性平衡的方法。
預設情況下,溫度為 0,如之前建立的提示所示。
溫度 | 功能 | 使用時機 |
---|---|---|
12 | 更可預測和保守的輸出。 回應更加一致。 |
需要高精確度、變化性小的提示。 |
7 | 更具創造性和多樣性的答覆。 回應更加多樣化,有時甚至更具創新性。 |
建立新的開箱即用內容的提示 |
雖然調整溫度會影響模型的輸出,但它不能保證特定結果。 AI 的回應本質上是概率性的,即使在相同的溫度設定下也可能有所不同。