Psaní efektivnějších výzev
Modely Azure OpenAI umožňují generovat odpovědi na dotazy v přirozeném jazyce s pozoruhodnou přesností. Kvalita odpovědí však do značné míry závisí na tom, jak dobře je výzva napsána. Vývojáři můžou optimalizovat výkon modelů Azure OpenAI pomocí různých technik ve svých výzev, což vede k přesnějším a relevantním odpovědím.
Zadejte jasné pokyny.
Dotazování modelu Azure OpenAI jasně na to, co chcete, je jedním ze způsobů, jak získat požadované výsledky. Model může být co nejvýstižnější a může vygenerovat odpověď, která nejvíce odpovídá tomu, co hledáte.
Řekněme například, že chcete vytvořit popis produktu pro novou láhev vody. Zvažte odpověď spojenou s jednotlivými výzvami:
Výzva
Write a product description for a new water bottle
odpověď
Introducing the latest addition to our product line - the innovative and eco-friendly water bottle.
Made from high-quality, BPA-free materials, this bottle is designed to keep your beverages at the
perfect temperature for hours. Its sleek and stylish design makes it the perfect accessory for any
outdoor activity or workout session. With its convenient carrying handle and leak-proof lid, you
can take it with you wherever you go, without worrying about spills or leaks. Plus, its easy-to-clean
design ensures that you can use it again and again, making it the perfect choice for anyone looking
for a reliable and sustainable water bottle.
Ve srovnání s podobnou výzvou s jasnými pokyny.
výzvy
Write a product description for a new water bottle that is 100% recycled. Be sure to include that
it comes in natural colors with no dyes, and each purchase removes 10 pounds of plastic from our
oceans
odpovědi
Introducing our newest water bottle, the eco-friendly choice for the conscious consumer. Made from
100% recycled materials and available in natural colors with no dyes, this bottle is not only
stylish but also sustainable. Each purchase of this bottle removes 10 pounds of plastic from
our oceans, making it a responsible choice for those who care about the environment. Its durable
and leak-proof design makes it perfect for outdoor activities, while its easy-to-carry handle
makes it convenient to take on the go. Join us in our mission to reduce plastic waste and choose
this eco-friendly water bottle for your daily hydration needs.
Včetně specifik, které je potřeba zahrnout, umožní modelu zjistit, jaké informace přidat do popisu, aby byl přesnější pro nový produkt.
Tuto metodu lze extrapolovat tak, aby zahrnovala složité instrukce, například seznam podrobností s odrážkami, které mají být zahrnuty do výstupu, délku odpovědi nebo požadované formáty. Zkuste se zeptat přesně na to, co chcete ve výsledku vidět, a možná vás překvapí, jak dobře model splňuje vaši žádost.
Formát pokynů
Způsob formátování instrukcí může mít vliv na to, jak model interpretuje výzvu. Časová předpojatost může ovlivnit modely, kde informace umístěné na konci podnětu mohou mít větší vliv na výstup než informace na začátku. Lepší odpovědi získáte tak, že na konci výzvy zopakujete pokyny a vyhodnotíte, jak to ovlivní vygenerovanou odpověď.
Toto zkreslení čerstvosti se také může projevit při využití ChatCompletion v kontextu chatu, kdy novější zprávy zahrnuté do výzvy mají větší dopad na odpověď. Další lekce podrobněji popisuje použití konverzací ke zlepšení kvality odezvy, ale uvedení důležitých informací blíž ke konci výzvy může vést k lepší reakci.
Použití značek oddílů
Specifická technika formátování pokynů je rozdělit pokyny na začátku nebo na konci výzvy a mít uživatelský obsah obsažený v blocích --- nebo ###. Tyto značky umožňují modelu jasněji rozlišovat instrukce a obsah. Například:
Translate the text into French
---
What's the weather going to be like today?
---
Poznámka
Osvědčené postupy pro značky oddílů se mohou v budoucích verzích změnit.
Primární, podpůrný a uzemněný obsah
Zahrnutí obsahu pro model, který se má použít k reagování, umožňuje zodpovědět s větší přesností. Tento obsah si můžete představit dvěma způsoby: primárním a podpůrným obsahem.
Primární obsah odkazuje na obsah, který je předmětem dotazu, například větu pro překlad nebo článek, který se má sumarizovat. Tento obsah je často zahrnutý na začátku nebo na konci výzvy (jako pokyn a odlišený bloky ---) s pokyny vysvětlující, jak s ním naložit.
Řekněme například, že máme dlouhý článek, který chceme shrnout. Mohli bychom ho umístit do --- bloku v zadání a pak skončit instrukcí.
---
<insert full article here, as primary content>
---
Summarize this article and identify three takeaways in a bulleted list
Podpůrný obsah je obsah, který může změnit odpověď, ale není fokus nebo předmět výzvy. Mezi příklady podpůrného obsahu patří například názvy, předvolby, budoucí datum, které se mají zahrnout do odpovědi atd. Poskytnutí podpůrného obsahu umožňuje modelu úplněji, přesněji a s větší pravděpodobností zahrnout požadované informace.
Například vzhledem k velmi dlouhému propagačnímu e-mailu dokáže model extrahovat klíčové informace. Pokud pak do výzvy přidáte podpůrný obsah, který určuje něco konkrétního, co hledáte, může model poskytnout užitečnější odpověď. V tomto případě je e-mail primárním obsahem s konkrétními informacemi o tom, co vás zajímá, jako podpůrný obsah.
---
<insert full email here, as primary content>
---
<the next line is the supporting content>
Topics I'm very interested in: AI, webinar dates, submission deadlines
Extract the key points from the above email, and put them in a bulleted list:
Uzemnění obsahu umožňuje modelu poskytovat spolehlivé odpovědi tím, že poskytuje obsah, ze něhož by model nakreslil odpověď. Základní obsah může být esej nebo článek, na který se pak ptáte, na dokument s nejčastějšími dotazy společnosti nebo na informace, které jsou novější než data, na které byl model natrénován. Pokud potřebujete spolehlivější a aktuální odpovědi nebo potřebujete odkazovat na nepublikované nebo konkrétní informace, důrazně doporučujeme uzemnění obsahu.
Zakotvující obsah se liší od primárního obsahu tím, že slouží jako zdroj informací pro odpověď na dotaz požadavku, namísto toho, aby byl obsah používán pro věci, jako je sumarizace nebo překlad. Pokud jste například poskytli nepublikovaný výzkumný dokument o historii umělé inteligence, může odpovědět na otázky pomocí tohoto základního obsahu.
---
<insert unpublished paper on the history of AI here, as grounding content>
---
Where and when did the field of AI start?
Tato podkladová data umožňují modelu poskytovat přesnější a informované odpovědi, které nemusí být součástí datové sady, na které byl trénován.
Signály
Upozornění jsou předními slovy, na kterých má model vycházet, a často pomáhají tvarovat odpověď správným směrem. Často se používají s pokyny, ale ne vždy. Příkazy jsou obzvláště užitečné při navádění modelu k generování kódu. Aktuální modely Azure OpenAI můžou vygenerovat některé zajímavé fragmenty kódu, ale generování kódu se podrobněji probírá v budoucím modulu.
Pokud například potřebujete pomoc s vytvořením dotazu SQL, uveďte pokyny k tomu, co potřebujete, spolu se začátkem dotazu:
Write a join query to get customer names with purchases in the past 30 days between tables named orders and customer on customer ID.
SELECT
Odpověď modelu pokračuje tam, kde výzva skončila, a pokračuje v SQL, i když jsme nikdy nepožádali o konkrétní jazyk. Další příklady mohou zahrnovat pomoc s kódem Pythonu přidáním komentářů ke kódu týkajících se požadované aplikace a zahrnutím import jako vedoucího znaku na konci výzvy nebo podobnou úpravu v požadovaném jazyce.
Další příklad: vzhledem k velké kolekci recenzí zákazníků ve výzvě a končící následujícím způsobem:
Summarize the reviews above:
Most common complaints:
-
Model je pak schopen dokončit výroky podle kontextů poskytnutých v recenzích.