Varianter i promptflöde
Med Azure Machine Learning-promptflödet kan du använda varianter för att finjustera din fråga. I den här artikeln får du lära dig begreppet frågeflödesvarianter.
Varianter
En variant refererar till en specifik version av en verktygsnod som har distinkta inställningar. För närvarande stöds varianter endast i LLM-verktyget. I LLM-verktyget kan till exempel en ny variant representera ett annat promptinnehåll eller olika anslutningsinställningar.
Anta att du vill generera en sammanfattning av en nyhetsartikel. Du kan ange olika varianter av frågor och inställningar så här:
| Varianter | Prompt | Anslutningsinställningar |
|---|---|---|
| Variant 0 | Summary: {{input sentences}} |
Temperatur = 1 |
| Variant 1 | Summary: {{input sentences}} |
Temperatur = 0,7 |
| Variant 2 | What is the main point of this article? {{input sentences}} |
Temperatur = 1 |
| Variant 3 | What is the main point of this article? {{input sentences}} |
Temperatur = 0,7 |
Genom att använda olika varianter av frågor och inställningar kan du utforska hur modellen svarar på olika indata och utdata, så att du kan identifiera den lämpligaste kombinationen för dina behov.
Fördelar med att använda varianter
- Förbättra kvaliteten på DIN LLM-generation: Genom att skapa flera varianter av samma LLM-nod med olika uppmaningar och konfigurationer kan du identifiera den optimala kombinationen som ger högkvalitativt innehåll som är anpassat efter dina behov.
- Spara tid och ansträngning: Även små ändringar i en fråga kan ge betydligt olika resultat. Det är viktigt att spåra och jämföra prestanda för varje promptversion. Med varianter kan du enkelt hantera de historiska versionerna av dina LLM-noder, vilket underlättar uppdateringar baserat på valfri variant utan att glömma tidigare iterationer. Detta sparar tid och arbete med att hantera historiken för snabbjustering.
- Öka produktiviteten: Varianter effektiviserar optimeringsprocessen för LLM-noder, vilket gör det enklare att skapa och hantera flera varianter. Du kan uppnå förbättrade resultat på kortare tid, vilket ökar din totala produktivitet.
- Underlätta enkel jämförelse: Du kan enkelt jämföra resultaten från olika varianter sida vid sida, så att du kan fatta datadrivna beslut om den variant som genererar bästa resultat.