Använd anvisningarna för att hämta slutföranden från modeller
När modellen har distribuerats kan du testa hur den slutför anvisningarna. En fråga är textdelen av en begäran som skickas till slutpunkten för den distribuerade modellens slutförande. Svar kallas för slutföranden, som kan komma i form av text, kod eller andra format.
Prompttyper
Prompter kan grupperas i typer av begäranden baserat på aktivitet.
Uppgiftstyp | Exempel på fråga | Exempel på slutförande |
---|---|---|
Klassificera innehåll | Tweet: Jag njöt av resan. Sentiment: |
Positiva |
Generera nytt innehåll | Visa en lista över olika sätt att resa | 1. Cykel 2. Bil ... |
Hålla en konversation | En vänlig AI-assistent | Se exempel |
Transformering (översättning och symbolkonvertering) | Engelska: Hello Franska: |
Bonjour |
Sammanfatta innehåll | Ange en sammanfattning av innehållet {text} |
Innehållet delar metoder för maskininlärning. |
Ta vid där du slutade | Ett sätt att odla tomater | är att plantera frön. |
Ge faktiska svar | Hur många månar har jorden? | En |
Slutförandekvalitet
Flera faktorer påverkar kvaliteten på slutföranden som du får från en generativ AI-lösning.
- Hur en uppmaning skapas. Läs mer om prompt engineering här.
- Modellparametrarna (som beskrivs härnäst)
- De data som modellen tränas på, som kan anpassas genom finjustering av modellen med anpassning
Du har större kontroll över de slutföranden som returneras genom att träna en anpassad modell än genom snabb ingenjörs- och parameterjustering.
Ringa anrop
Du kan börja göra anrop till din distribuerade modell via REST API, Python, C#eller från Studio. Om din distribuerade modell har en GPT-3.5- eller GPT-4-modellbas använder du dokumentationen om chattavslut, som har olika slutpunkter och variabler för begäranden som krävs än för andra basmodeller.