提示流程中的變體
使用 Azure Machine Learning 提示流程,您可以使用變體來調整您的提示。 在本文中,您將會了解提示流程變體概念。
變體
變體是指具有不同設定的特定版本工具節點。 目前,僅在 LLM 工具中支援變體。 例如,在 LLM 工具中,新的變體可以代表不同的提示內容或不同的連線設定。
假設您想要產生新聞文章的摘要。 您可以設定提示和設定的不同變體,如下所示:
變體 | 提示 | 連線設定 |
---|---|---|
變體 0 | Summary: {{input sentences}} |
溫度 = 1 |
Variant 1 | Summary: {{input sentences}} |
溫度 = 0.7 |
變體 2 | What is the main point of this article? {{input sentences}} |
溫度 = 1 |
Variant 3 | What is the main point of this article? {{input sentences}} |
溫度 = 0.7 |
藉由使用提示和設定的不同變體,您可以探索模型如何回應各種輸入和輸出,讓您探索最適合您需求的組合。
使用變體的優點
- 增強 LLM 產生的品質:藉由使用各種提示和設定建立相同 LLM 節點的多個變體,您可以識別出最佳組合,以產生符合您需求的高品質內容。
- 節省時間和精力:即使對提示進行些微修改,也會產生明顯不同的結果。 追蹤和比較每個提示版本的效能非常重要。 透過變體,您可以輕鬆地管理 LLM 節點的歷程記錄版本,以任何變體為基礎來促進更新,而不會有忘記先前反覆項目的風險。 這可節省您管理提示微調歷程記錄的時間和精力。
- 提升生產力:變體可簡化 LLM 節點的最佳化程序,讓您更輕鬆地建立和管理多個變化。 您可以在更少的時間內達成改善的結果,進而提升整體生產力。
- 促進簡單比較:您可以毫不費力地並排比較從不同變體取得的結果,讓您能夠針對產生最佳結果的變體做出資料驅動決策。