プロンプト フローのバリアント
Azure Machine Learning プロンプト フローでは、バリアントを使ってプロンプトをチューニングできます。 この記事では、プロンプト フローのバリアントの概念について説明します。
バリアント
バリアントとは、個別の設定を持つツール ノードの特定のバージョンを指します。 現在、バリアントは LLM ツールでのみサポートされています。 たとえば、LLM ツールの新しいバリアントは、異なるプロンプト コンテンツまたは異なる接続設定を表す可能性があります。
たとえば、ニュース記事の概要を生成するとします。 次のように、さまざまなバリアントのプロンプトと設定を設定できます。
| バリアント | Prompt | 接続の設定 |
|---|---|---|
| バリアント 0 | Summary: {{input sentences}} |
温度 = 1 |
| バリアント 1 | Summary: {{input sentences}} |
温度 = 0.7 |
| バリアント 2 | What is the main point of this article? {{input sentences}} |
温度 = 1 |
| バリアント 3 | What is the main point of this article? {{input sentences}} |
温度 = 0.7 |
さまざまなバリアントのプロンプトと設定を利用することで、さまざまな入力と出力に対してモデルがどのように応答するかを調べ、要件に最適な組み合わせを見つけることができます。
バリアントを使用するベネフィット
- LLM 生成の質を高める: 同じ LLM ノードの複数のバリアントをさまざまなプロンプトと構成で作成することで、ニーズに合った高品質のコンテンツを生成する最適な組み合わせを特定できます。
- 時間と労力を節約する: プロンプトにわずかな変更を加えただけでも、大幅に異なる結果が生成される可能性があります。 各プロンプト バージョンのパフォーマンスを追跡して比較することが重要です。 バリアントを使うと、LLM ノードの過去のバージョンを簡単に管理し、以前のイテレーションを忘れるリスクなしで、任意のバリアントに基づいて簡単に更新できるようになります。 これにより、プロンプトのチューニング履歴を管理する時間と労力を節約できます。
- 生産性を高める: バリアントを使うと、LLM ノードの最適化プロセスを合理化できるので、複数のバリアントの作成と管理が簡単になります。 より短い時間で結果を改善できるので、全体的な生産性が向上します。
- 簡単な比較を容易にする: さまざまなバリアントから得られた結果を並べて簡単に比較できるので、最良の結果を生成するバリアントに関してデータに基づいた決定を下すことができます。