Nejčastější dotazy k používání generativní orchestrace
Tyto nejčastější otázky popisují dopad AI generativní orchestrace na vlastní agenty vytvořené v Copilot Studio.
Co je generativní orchestrace?
Generativní orchestrace umožňuje vašemu agentovi odpovídat na uživatelské dotazy relevantními tématy nebo akcemi. Generativní orchestrace umožňuje vést přirozenější konverzace díky vyplňování vstupů s použitím podrobností z historie konverzace. Pokud se například zeptáte na nejbližší obchod v Kirklandu a pak se zeptáte na tamní počasí, orchestrace odvodí, že se chcete zeptat na počasí v Kirklandu. Systém může také zřetězit více akcí nebo témat. Může například odpovědět: "Potřebuji zjistit otevírací dobu prodejny a najít nejbližší prodejnu." Pokud si agent není jistý podrobnostmi, může položit doplňující otázky, aby je rozpoznal.
Co umí generativní orchestrace?
Při generativní orchestraci systém nejprve vytvoří plán pro zodpovězení dotazu uživatele pomocí názvu, popisu, vstupů a výstupů dostupných témat a akcí. Použije také posledních 10 výměn v historii konverzace. Poté se plán pokusí provést vyplněním potřebných vstupů z konverzace, načež se obrátí na uživatele v případě chybějících nebo nejednoznačných informací. Systém zkontroluje, zda našel odpověď na otázku uživatele, než uživateli odpoví. Pokud ne, znovu projde procesem. Nakonec systém vygeneruje odpověď na základě výstupu plánu z témat a/nebo akcí. Používá také jakékoli vlastní pokyny pro agent při generování konečné odpovědi.
Jaké je zamýšlené použití generativní orchestrace?
Tento režim můžete použít v rámci agent k vytvoření agent, který může odpovídat na dotazy uživatelů na základě historie konverzací, názvů a popisů témat a názvů, popisů, vstupů a výstupů akcí.
Jak je hodnocena generativní orchestrace? Jaké metriky se používají k měření výkonu?
Generativní orchestrace je hodnocena z hlediska kompletní kvality v každém kroku procesu. Kvalita se měří podle toho, jak dobře systém vytváří a provádí plán, který úspěšně řeší dotaz uživatele. Náš tým při dolaďování ručně označuje skóre kvality. Kvalitu hodnotíme na základě různých uživatelských dotazů, výzev a akcí. Vyhodnocujeme také, jak dobře systém ignoruje škodlivý obsah od uživatelů a autorů a jak dobře se systém vyhýbá vytváření škodlivého obsahu.
Jaká jsou omezení generativní orchestrace? Jak mohou uživatelé minimalizovat dopad omezení generativní orchestrace při používání tohoto systému?
Nejlepších výsledků dosáhnete, když vaše témata a akce obsahují vysoce kvalitní popisy. Poskytujeme návod, jak psát vysoce kvalitní popisy, v dokumentaci k Copilot Studio.
Jaké provozní faktory a nastavení umožňují efektivní a odpovědné využívání generativní orchestrace?
Generativní orchestrace je aktuálně pouze v angličtině. Jakmile povolíte generativní režim v rámci agent, můžete systém otestovat a zjistit, jak dobře funguje pomocí testovacího panelu. Můžete také přidat vlastní pokyny pro agent, které vám pomůžou vygenerovat konečnou odpověď.
Co jsou akce a jak je vaše agent se zapnutým generativním režimem používá?
Do vlastního agent můžete přidat akce, které budou odpovídat na dotazy uživatelů. Můžete použít akce vyvinuté společností Microsoft nebo třetími stranami, nebo můžete vytvořit své vlastní akce. Určíte, které akce se mají nakonfigurovat pro použití vlastním agentem. Můžete také upravit název, popis, vstupy a výstupy používané tímto systémem.
Jaká data poskytuje Copilot Studio pro akce? Jaká oprávnění mají akce Copilot Studio?
Když agent zavolá akci, akce obdrží vstupní hodnoty, které sama specifikuje. Vstupní hodnoty mohou zahrnovat část historie konverzace s uživatelem.
Jaké typy problémů mohou nastat při použití akcí Copilot Studio?
Akce nemusí vždy fungovat tak, jak mají. Při přípravě vstupu pro akci nebo při generování odpovědi na základě výstupu akce může dojít k chybám. Vaše agent může také volat nesprávnou akci pro dotaz uživatele. Chcete-li zmírnit riziko takových chyb při používání akcí, ujistěte se, že máte vysoce kvalitní, relevantní a jednoznačné popisy nakonfigurované pro akce ve vašem vlastním agent.
Jaká ochranná opatření platí Copilot Studio pro zodpovědnou umělou inteligenci?
Existuje mnoho funkcí pro zmírnění rizik, které chrání vaše agenty. Svůj agent můžete nakonfigurovat pomocí sady znalostí, akcí a témat. Agenti nikdy neprovedou akci, která není součástí jejich konfigurace. Správci můžou zakázat akce pro agenty ve vaší organizaci. Pokud se obáváte, že se akce spustí bez potvrzení, můžete akci nakonfigurovat tak, aby se volala jenom v případě, že uživatel souhlasí s jejím voláním.
Kromě toho máme klasifikátory, které se dívají na vstup do systému a detekují škodlivý obsah a útoky jailbreak. Podle našich testů mají tyto klasifikátory vysokou úspěšnost při blokování škodlivého obsahu a útoků jailbreak a zároveň mají vysokou úspěšnost při neblokování obsahu, který není škodlivý ani útokem jailbreak. Klasifikátory však nemohou být dokonalé, takže existuje riziko, že agent vytvoří škodlivý obsah nebo bude reagovat na útok jailbreak. Mezi tato rizika patří útoky prostřednictvím injektáže výzev mezi doménami, kdy by mohly být přidány instrukce do výstupu akce nebo zdroje znalostí, který se pak agent pokusí sledovat.
A konečně, osvědčeným postupem je sdělit uživatelům, že agent používá umělou inteligenci, proto uživatele informuje následující výchozí zpráva: "Jen abyste věděli, někdy používám umělou inteligenci k zodpovězení vašich otázek."