Skriva effektivare frågor

Slutförd

Azure OpenAI-modeller kan generera svar på frågor på naturligt språk med anmärkningsvärd noggrannhet. Kvaliteten på svaren beror dock till stor del på hur väl uppmaningen skrivs. Utvecklare kan optimera prestandan för Azure OpenAI-modeller med hjälp av olika tekniker i sina frågor, vilket resulterar i mer exakta och relevanta svar.

Ange tydliga instruktioner

Att fråga Azure OpenAI-modellen tydligt om vad du vill ha är ett sätt att få önskade resultat. Genom att vara så beskrivande som möjligt kan modellen generera ett svar som bäst matchar det du letar efter.

Anta till exempel att du vill skapa en produktbeskrivning för en ny vattenflaska. Överväg det svar som är associerat med varje fråga:

Snabb

Write a product description for a new water bottle

Response

Introducing the latest addition to our product line - the innovative and eco-friendly water bottle.
Made from high-quality, BPA-free materials, this bottle is designed to keep your beverages at the
perfect temperature for hours. Its sleek and stylish design makes it the perfect accessory for any
outdoor activity or workout session. With its convenient carrying handle and leak-proof lid, you 
can take it with you wherever you go, without worrying about spills or leaks. Plus, its easy-to-clean
design ensures that you can use it again and again, making it the perfect choice for anyone looking 
for a reliable and sustainable water bottle.

Jämfört med en liknande uppmaning, med tydliga instruktioner.

Snabb

Write a product description for a new water bottle that is 100% recycled. Be sure to include that
it comes in natural colors with no dyes, and each purchase removes 10 pounds of plastic from our 
oceans

Response

Introducing our newest water bottle, the eco-friendly choice for the conscious consumer. Made from 
100% recycled materials and available in natural colors with no dyes, this bottle is not only 
stylish but also sustainable. Each purchase of this bottle removes 10 pounds of plastic from 
our oceans, making it a responsible choice for those who care about the environment. Its durable 
and leak-proof design makes it perfect for outdoor activities, while its easy-to-carry handle 
makes it convenient to take on the go. Join us in our mission to reduce plastic waste and choose 
this eco-friendly water bottle for your daily hydration needs.

Om du inkluderar detaljer som måste inkluderas kan modellen veta vilken information som ska läggas till i beskrivningen, vilket gör den mer exakt för den nya produkten.

Den här metoden kan extrapoleras så att den innehåller komplexa instruktioner, till exempel en punktlista med information som ska inkluderas, svarslängd eller önskade format som ska ingå i utdata. Försök att fråga efter exakt vad du vill se i resultatet, och du kan bli förvånad över hur väl modellen uppfyller din begäran.

Format för instruktioner

Hur instruktioner formateras kan påverka hur modellen tolkar uppmaningen. Recency bias kan påverka modeller, där information som finns mot slutet av prompten kan ha större inverkan på utdata än information i början. Du kan få bättre svar genom att upprepa instruktionerna i slutet av prompten och utvärdera hur det påverkar det genererade svaret.

Denna recency bias kan också spela in när du använder ChatCompletion i ett chattscenario, där nyare meddelanden i konversationen som ingår i prompten har en större inverkan på svaret. Nästa lektion går mer ingående på att använda konversationer för att förbättra svarskvaliteten, men om du placerar viktig information närmare slutet av prompten kan det resultera i ett bättre svar.

Använda avsnittsmarkörer

En specifik teknik för formateringsinstruktioner är att dela upp instruktionerna i början eller slutet av prompten och låta användarinnehållet finnas i --- eller ### blockeras. De här taggarna gör det möjligt för modellen att tydligare skilja mellan instruktioner och innehåll. Till exempel:

Translate the text into French

---
What's the weather going to be like today?
---

Kommentar

Metodtips för avsnittsmarkörer kan ändras med framtida versioner.

Primärt innehåll, stöd och grundinnehåll

Om du inkluderar innehåll för modellen som ska användas för att svara med kan den svara med större noggrannhet. Det här innehållet kan tänkas på två sätt: primärt och stödjande innehåll.

Primärt innehåll refererar till innehåll som är ämnet för frågan, till exempel en mening att översätta eller en artikel att sammanfatta. Det här innehållet ingår ofta i början eller slutet av prompten (som en instruktion och differentieras av --- block), med instruktioner som förklarar vad du ska göra med det.

Anta till exempel att vi har en lång artikel som vi vill sammanfatta. Vi kan placera den i ett --- block i prompten och sedan avsluta med instruktionen.

---
<insert full article here, as primary content>
---

Summarize this article and identify three takeaways in a bulleted list

Stödinnehåll är innehåll som kan ändra svaret, men som inte är fokus eller ämne för uppmaningen. Exempel på stödinnehåll är saker som namn, inställningar, framtida datum som ska inkluderas i svaret och så vidare. Genom att tillhandahålla stödinnehåll kan modellen svara mer fullständigt, korrekt och vara mer benägna att inkludera önskad information.

Med ett mycket långt kampanjmeddelande kan modellen till exempel extrahera viktig information. Om du sedan lägger till stödinnehåll i prompten och anger något specifikt som du letar efter kan modellen ge ett mer användbart svar. I det här fallet är e-postmeddelandet det primära innehållet, med information om vad du är intresserad av som stödinnehåll

---
<insert full email here, as primary content>
---
<the next line is the supporting content>
Topics I'm very interested in: AI, webinar dates, submission deadlines

Extract the key points from the above email, and put them in a bulleted list:

Med grundinnehåll kan modellen ge tillförlitliga svar genom att tillhandahålla innehåll som modellen kan hämta svar från. Grundinnehåll kan vara en uppsats eller artikel som du sedan ställer frågor om, ett företags FAQ-dokument eller information som är nyare än de data som modellen har tränats på. Om du behöver mer tillförlitliga och aktuella svar, eller om du behöver referera till opublicerad eller specifik information, rekommenderas grundinnehåll starkt.

Grundinnehåll skiljer sig från primärt innehåll eftersom det är källan till information för att besvara frågan, i stället för innehållet som används för saker som sammanfattning eller översättning. När det till exempel tillhandahålls ett opublicerat forskningsdokument om AI:s historik kan den besvara frågor med hjälp av det grundinnehållet.

---
<insert unpublished paper on the history of AI here, as grounding content>
---

Where and when did the field of AI start?

Med dessa grunddata kan modellen ge mer exakta och välgrundade svar som kanske inte ingår i den datamängd som den tränats på.

Ledtrådar

Tips är inledande ord för modellen att bygga vidare på och hjälper ofta till att forma svaret i rätt riktning. De används ofta med instruktioner, men inte alltid. Tips är särskilt användbara om du frågar efter modellen för kodgenerering. Aktuella Azure OpenAI-modeller kan generera några intressanta kodfragment, men kodgenereringen beskrivs mer ingående i en framtida modul.

Om du till exempel vill ha hjälp med att skapa en SQL-fråga anger du instruktioner för vad du behöver tillsammans med början av frågan:

Write a join query to get customer names with purchases in the past 30 days between tables named orders and customer on customer ID. 

SELECT

Modellsvaret tar vid där uppmaningen slutade och fortsätter i SQL, även om vi aldrig bad om ett specifikt språk. Andra exempel kan vara att hjälpa till med python-kod genom att ge kodkommenterar om den önskade appen och inkludera import som ett inledande ord i slutet av prompten eller liknande på önskat språk.

Ett annat exempel, med tanke på en stor samling kundrecensioner i en prompt och som slutar med:

Summarize the reviews above:
Most common complaints:
- 

Modellen vet sedan att slutföra -instruktionerna baserat på kontexten som anges i granskningarna.