Sdílet prostřednictvím

Principy návrhu úloh inteligentních aplikací

  • Článek

Pokyny k plánování, vývoji a údržbě inteligentních úloh aplikací jsou postavené na Power Platform Well-Architected a jeho pěti pilířích architektonické dokonalosti.

Pilíř Well-Architected Shrnutí
Spolehlivost Úloha inteligentních aplikací vyžaduje odolnost na vrstvě architektury, aby se zajistilo, že modely a pracovní postupy AI budou vysoce dostupné a budou se moci rychle zotavit ze selhání. Implementujte robustní mechanismy zpracování chyb. Odolná architektura také udržuje integritu dat používaných modely AI a zajišťuje konzistentní a přesné výstupy.
Zabezpečení Úlohy inteligentních aplikací často zpracovávají citlivá data. Chraňte citlivá data používaná a generovaná modely AI. Implementujte šifrování, řízení přístupu a pravidelné bezpečnostní audity. Zajistěte, aby úloha byla v souladu s příslušnými regulačními standardy, jako jsou GDPR (Obecné nařízení o ochraně osobních údajů) a HIPAA (zákon o přenositelnosti a odpovědnosti zdravotního pojištění), abyste chránili soukromí a data uživatelů.
Efektivita výkonu Úloha inteligentních aplikací musí být navržena tak, aby se bezproblémově škálovala s rostoucími objemy dat a požadavky uživatelů. Identifikujte klíčové metriky výkonu a implementujte monitorování, abyste mohli sledovat pokrok směrem k dosažení cílů výkonu úloh. V kontextu úloh inteligentních aplikací bere výkon v úvahu také počet požadavků a interakcí, které je možné dokončit prostřednictvím samoobslužné služby, což by jinak vyžadovalo zásah člověka.
Provozní dokonalost Úloha inteligentních aplikací vyžaduje komplexní monitorování a protokolování, aby bylo možné sledovat výkon a stav modelů, pracovních postupů a konverzací AI. Monitorování pomáhá rychle identifikovat a řešit problémy. Pilíř Operational Excellence doporučuje používat automatizaci k zefektivnění provozu, omezení manuálních zásahů a minimalizaci rizika lidské chyby.
Optimalizace prostředí Úloha inteligentní aplikace by měla upřednostňovat návrh konverzace, aby bylo zajištěno uživatelsky přívětivé prostředí, které uživatelům umožní dosáhnout svých cílů s minimálním úsilím. Návrh by měl zohledňovat témata, která generativní AI nedokáže zpracovat, a měl by zahrnovat záložní mechanismy. Implementujte také mechanismy pro shromažďování zpětné vazby od uživatelů a průběžně zdokonalujte modely AI a úlohy na základě této zpětné vazby.

Spolehlivost

Při navrhování inteligentních úloh aplikací pomocí Power Platform se zaměřte na odolnost a dostupnost.

  • Odolnost je schopnost systému obnovit se po selhání a pokračovat v práci.
  • Dostupnost zajišťuje nepřetržitou provozuschopnost. Vysoká dostupnost minimalizuje prostoje aplikací a zlepšuje zotavení z incidentů.

Spolehlivost je důležitá při vývoji jakékoli úlohy a generativní AI není výjimkou. Ve skutečnosti existují jedinečné faktory, které je potřeba vzít v úvahu při navrhování úloh generativní AI. Rozpoznání a zdůraznění odolnosti je pro úlohy generativní AI zásadní pro zajištění dostupnosti organizace a zachování provozní kontinuity.

V cloudu může dojít k selhání. Místo toho, abyste se snažili selháním úplně zabránit, vaším cílem by mělo být minimalizovat účinky jedné selhávající součásti. Pomocí následujících informací můžete minimalizovat prostoje a zajistit, aby byly do úloh inteligentních aplikací integrovány doporučené postupy pro vysokou dostupnost:

  • Zajistěte, aby úloha zvládla selhání a pokračovala v provozu, i když s omezenou funkčností. Identifikujte potenciální poruchy a zajistěte odolnost systému, aby tyto chyby toleroval a zotavil se z nich.
  • Zajistěte, aby byla úloha pozorovatelná, aby se vývojové týmy poučily z neúspěchů. Rychle identifikujte a řešte problémy implementací mechanismů monitorování, protokolování a upozorňování.
  • Ujistěte se, že se úloha může škálovat tak, aby zvládla různá zatížení, což je zvláště důležité pro úlohy AI, které můžou mít kolísavé požadavky.
  • Implementujte robustní mechanismy zpracování chyb a obnovy. Nastavte si automatická upozornění na selhání systému a mějte jasný plán pro rychlou obnovu.
  • Ověřte cílovou architekturu a škálujte tím, že porozumíte cílovým objemům chatových zpráv nebo konverzací. Cílové objemy také pomáhají ověřit licenční aspekty inteligentní aplikace a potenciální vliv na úložiště Dataverse pro přepisy konverzací.

U inteligentních aplikací, které využívají funkce generativní AI, zvažte nejen odolnost a dostupnost, ale také spolehlivost a přesnost odpovědí poskytovaných inteligentními úlohami. Při každém návrhu zvažte následující doporučení:

  • Optimalizace pro technologii RAG (Retrieval Augmented Generation): Zajistěte, aby vaše data byla čistá a dobře strukturovaná, vytvářejte efektivní vkládání a indexy pro rychlé načítání a implementujte robustní mechanismy monitorování a zpětné vazby, abyste neustále zlepšovali výkon úloh.
  • Efektivní výzvy: Navrhujte přesné a kontextově relevantní výzvy, které AI povedou k vytváření přesných odpovědí.
  • Pravidelné vyhodnocování: Implementujte průběžné monitorování a testování výstupů AI s cílem posoudit přesnost, relevanci a dodržování etiky.
  • Zpětnovazební smyčky: Vytvořte mechanismy zpětné vazby, kde mohou uživatelé hlásit nepřesnosti, které pak lze použít k upřesnění a vylepšení modelů. Microsoft Copilot Studio poskytuje analýzy spokojenosti zákazníků, které poskytují užitečné informace o faktorech spokojenosti nebo nespokojenosti s odpověďmi vašeho agenta.
  • Trénování specifické pro doménu: Vylaďte modely na datech specifických pro doménu, abyste zvýšili přesnost v konkrétních kontextech.
  • Pravidelné aktualizace: Pravidelně aktualizujte modely novými daty, abyste zachovali jejich relevanci a přesnost.
  • Nerozpoznané záměry: Zpracování nerozpoznaných záměrů pomocí generativních odpovědí k vyhledání odpovědí z dostupných zdrojů dat a pomocí záložního tématu k integraci s jinými systémy.

Zabezpečení

V modelu sdílené odpovědnosti:

Doporučujeme, abyste pravidelně vyhodnocovali služby a technologie, abyste měli jistotu, že se váš stav zabezpečení přizpůsobí vyvíjejícímu se prostředí hrozeb. Při spolupráci na implementaci bezpečnostních opatření je nezbytné vytvořit jasné porozumění modelu sdílené odpovědnosti s dodavateli.

K zabezpečení úloh inteligentních aplikací můžete použít několik metod:

  • Ověřování uživatelů a řízení přístupu: Implementujte robustní opatření pro ověřování a řízení přístupu, abyste zajistili, že k úloze inteligentní aplikace budou mít přístup pouze oprávnění uživatelé. Neoprávněný přístup k úloze inteligentních aplikací může vést k narušení dat, zneužití prostředků a potenciálnímu odhalení citlivých informací. Slabé nebo neúčinné mechanismy ověřování můžou také vést k ohrožení uživatelských účtů.
  • Dodržování předpisů: Zajistěte, aby data byla chráněná a spravovaná v souladu s regulačními požadavky. Seznamte se s místními předpisy, buďte informováni o místních zákonech o ochraně osobních údajů a zajistěte, aby vaše strategie rezidence dat byla v souladu s těmito předpisy.
  • Integrace: Zabezpečte všechny integrace s instančními objekty. Monitorujte a chraňte integritu sítě interních a externích koncových bodů prostřednictvím funkcí zabezpečení a zařízení, jako jsou brány firewall nebo brány firewall webových aplikací.
  • Průběžné monitorování a auditování: Průběžně monitorujte a auditujte aktivity úloh, abyste je mohli zjišťovat a proaktivně na ně reagovat.
  • Nástroje zabezpečení Azure: K monitorování a vynucování zásad zabezpečení použijte integrované nástroje zabezpečení Azure, jako jsou Microsoft Defender for Cloud (dříve označovaný jako Azure Security Center) a Azure Policy.
  • Školte zaměstnance: Školte zaměstnance ohledně osvědčených postupech pro ochrany údajů a důležitosti dodržování požadavků na rezidenci dat.

Účinnost výkonu

Efektivita výkonu je schopnost vašich úloh efektivně škálovat tak, aby splňovaly požadavky, které na ně kladou uživatelé.

Zvýšení efektivity výkonu prostřednictvím:

  • Porozumění cílových objemů pro ověření cílové architektury a škálování. Cílové objemy také pomáhají ověřit licenční aspekty generativní AI (agenta) a potenciální vliv na úložiště Dataverse pro přepisy konverzací.
  • Seznamte se s omezeními platformy. Při integraci úloh inteligentních aplikací s externími systémy, například prostřednictvím Power Automate nebo požadavků HTTP, je důležité ověřit, že každá komponenta zvládne zatížení.
  • Průběžně monitorujte výkon a zjišťujte anomálie pomocí nástrojů, jako jsou Azure Monitor, Log Analytics, Application Insights a výstrahy.
  • Porozumění očekávaným dobám odezvy pro:
    • První načtení chatu a odpověď na první zprávu
    • Maximální latence pro agenta při odpovídání na dotazy uživatelů
    • Přístup ke zpracování dlouhotrvajících akcí (například čekání na to, až externí systém vrátí data)
  • Optimalizace míry vychýlení nebo rychlosti, s jakou jsou požadavky dokončeny samoobslužným způsobem kvůli automatizaci (snížení počtu požadavků, které vyžadují lidskou pomoc). Další informace najdete v tématu Optimalizace výkonu pro úlohy inteligentních aplikací.

Zvážení každého z těchto aspektů vám pomůže vytvořit inteligentní úlohu aplikace s konzistentním a soudržným uživatelským prostředím.

Provozní dokonalost

Provozní dokonalost zahrnuje vývoj efektivních procesů pro podporu úloh inteligentních aplikací.

Provozní selhání mohou ovlivnit další oblasti návrhu i celkový úspěch úlohy inteligentních aplikací. Je důležité přizpůsobit provozní procesy tak, aby podporovaly inteligentní úlohy aplikací v produkčním prostředí. Následující doporučení podporují provozní dokonalost:

  • Automatizujte procesy sestavení a vydání. Plně automatizované procesy sestavování a vydávání snižují třecí plochy a zvyšují rychlost nasazování aktualizací, což přináší opakovatelnost a konzistenci napříč prostředími. Automatizace zkracuje smyčku zpětné vazby, od vývojářů, kteří prosazují změny, až po získání přehledů o kvalitě kódu, pokrytí testů, odolnosti, zabezpečení a výkonu, což vše přispívá k produktivitě vývojářů.
  • Udržujte dodržování předpisů a zásady správného řízení
  • Analyzujte výkon a stav vašeho prostředí v produkčním prostředí.
  • Udržujte dokumentaci, která zachycuje:
    • Potupy řešení problémů
    • Postupy zotavení po havárii
  • Poskytněte pokyny k nápravě, jak urychlit proces řešení problémů.
  • Přijměte neustálé provozní zlepšování. Upřednostněte rutinní zlepšování systému a uživatelské zkušenosti. Pomocí modelu stavu můžete pochopit a měřit provozní efektivitu spolu s mechanismy zpětné vazby, které aplikačním týmům umožní pochopit a řešit nedostatky iterativním způsobem.

Tato doporučení můžou pomoct vašemu týmu spolupracovat způsobem, který je efektivní a transparentní.

Optimalizace prostředí

Úloha inteligentní aplikace by měla upřednostňovat návrh konverzace, aby bylo zajištěno uživatelsky přívětivé prostředí, které uživatelům umožní dosáhnout svých cílů s minimálním úsilím. Návrh by se měl zabývat tématy, která generativní AI nedokáže zvládnout, a měl by zahrnovat záložní mechanismy. Implementujte také mechanismy pro shromažďování zpětné vazby od uživatelů a průběžně zdokonalujte modely AI a úlohy na základě této zpětné vazby.

Optimalizace uživatelského prostředí pro úlohy inteligentních aplikací zahrnuje několik klíčových aspektů:

  • Návrh konverzace: Navrhujte konverzace tak, aby byly intuitivní a snadno se v nich orientovalo. Používejte jasný a stručný jazyk a zajistěte, aby AI dokázala efektivně zpracovávat běžné dotazy uživatelů. Zaměřte se na to, abyste uživatelům pomohli dosáhnout jejich cílů s minimálním úsilím. Pochopte záměry uživatelů a rychle poskytněte relevantní odpovědi, abyste zajistili bezproblémové a efektivní uživatelské prostředí.

  • Omezení zpracování: Implementujte záložní mechanismy pro témata, která generativní AI nedokáže zpracovat, jako je přesměrování uživatelů na zástupce zákaznických služeb nebo poskytování alternativních prostředků. Navrhujte robustní procesy zpracování chyb, které vám umožní elegantně spravovat neočekávané vstupy. Informujte uživatele, když AI není schopna zpracovat jejich požadavek, a nabídněte alternativy.

  • Zpětná vazba od uživatelů: Integrujte mechanismy pro průběžné shromažďování zpětné vazby od uživatelů. Microsoft Copilot Studio poskytuje analýzy spokojenosti zákazníků, které poskytují užitečné informace o faktorech spokojenosti nebo nespokojenosti s odpověďmi vašeho agenta. Využijte shromážděnou zpětnou vazbu k upřesnění a vylepšení modelů AI a celkové pracovní zátěže. Pravidelné aktualizace na základě podnětů uživatelů mohou výrazně zlepšit uživatelský komfort.

  • Přizpůsobení a personalizace: Přizpůsobte si výzvy a pokyny tak, aby odpovídaly vašim konkrétním případům použití a potřebám uživatelů, abyste zajistili přesnější a relevantnější odpovědi. Pomocí dynamického řetězení můžete automatizovat triggery a efektivně spravovat toky témat, abyste snížili potřebu ručně předdefinovaných témat a zlepšili schopnost AI rozpoznat záměr uživatele. Další informace viz Optimalizace výzev a konfigurace témat.

Další kroky

Principy návrhu Well-Architected Framework jsou začleněny do oblastí návrhu úloh inteligentních aplikací. Každá oblast návrhu poskytuje cílené pokyny, které vám pomohou rychle získat přístup k informacím, které potřebujete k efektivnímu zvýšení produktivity.

Začněte tím, že si projdete aspekty návrhu, které jsou potřeba k podpoře úlohy: