Úlohy AI v Azure
Tento článek se zabývá problémy s architekturou při navrhování úloh AI. Zaměřuje se na nedeterministické funkce, návrh dat a aplikací a operace. Doporučení jsou založená na principech architektury Azure Well-Architected a zahrnují přehledy z úspěšných implementací Azure.
Tyto články jsou určené pro vlastníky úloh a technické zúčastněné strany , jako jsou architekti, vedoucí pracovníci vývoje a vedoucí pracovníci IT. Specializované role umělé inteligence a dat, jako jsou datoví vědci, by si také měli být vědomi těchto pokynů, protože spolupráce mezi různými rolemi a týmy je klíčovým aspektem.
Poznámka:
Azure nabízí různé služby AI, které můžete integrovat do své úlohy nebo kolem ní vytvářet. V závislosti na vašich obchodních potřebách si můžete vybrat mezi plně spravovaným řešením saaS (software jako služba), řešeními paaS (platforma jako služba) nebo vytvořit vlastní řešení AI. Tady nejsou popsané konkrétní služby Azure a jejich možnosti. Doporučujeme, abyste se k příslušným informacím dostali v příslušné dokumentaci k produktu.
Některé úlohy AI také nejsou v oboru, například:
- Úlohy, které jsou realizovány prostřednictvím low-code a no-code nabídek, jako je Copilot Studio.
- Úlohy, které vyžadují vysokovýkonné výpočetní prostředí
- Úlohy, které neimplementují generující nebo nerozlišující případy použití umělé inteligence.
Co je úloha AI?
V kontextu Well-Architected Framework úloha umělé inteligence splňuje požadavky prediktivních, nediskriminačních nebo generivních úloh. Zaměřuje se na etické funkce, přizpůsobení se rychle se vyvíjejícím technologiím AI a udržování relevantních a vysvětlitelných technologií. Použijte pilíře architektury Well-Architected v každém rozhodovacím bodě, abyste zajistili, že je systém spolehlivý, zabezpečený, efektivní a nákladově efektivní.
Úlohy AI se liší od tradičních úloh, protože nahrazují deterministické funkce v částech úlohy nedeterministickým chováním, které řeší situace, kdy jsou pevné výsledky nepraktické. Místo toho kombinují kód a data do entity nebo modelu, aby bylo možné zajistit jedinečná prostředí, která tradiční systémy nemohou poskytnout.
Než začnete se strategiemi návrhu, zvažte nejprve tyto klíčové body.
Seznamte se s širokými kategoriemi modelů
Generativní umělá inteligence: Používá strojové učení k autonomnímu vytváření nového obsahu. Zahrnuje jazykové modely, které je možné přizpůsobit uživatelskými daty nebo použít jako služby, jako je Azure OpenAI Service. Například GPT, typ jazykového modelu, se specializuje na napodobování lidského konverzačního jazyka a je ideální pro chat a přirozené jazykové prostředí.
Případy použití: Generativní AI může vytvářet články, příběhy a umění. Může také generovat syntetická data k vyvážení datových sad a k tomu, aby chatboty byly humannější.
DiskriminivníAI: Používá explicitní programování k provádění konkrétních úloh na základě pravidel a algoritmů. Je rozdělená na:
- Model-based: Prediktivní systémy najdou vzory na základě trénování provedeného z předchozích pozorování, aby mohly provádět predikce, ale nemohou tvořit nový obsah ani se přizpůsobovat samostatně.
- Nezaložené na modelu: Autonomní agenti dodržují předdefinovaná pravidla pro interakci se systémy, jako jsou postavy ve videohrách.
Případ použití: Diskriminativní AI se používá pro prediktivní analýzy, systémy doporučení a odhalování podvodů.
Tato série článků popisuje různé úlohy AI a v případě potřeby se zaměřuje na konkrétní typy, jako jsou jazykové modely.
Důležité
Když si zvolíte mezi generováním a diskriminativními modely, zamyslete se nad úlohou, kterou potřebujete provést. Generování modelů vytváří nová data. Diskriminativní modely klasifikují existující data na základě funkcí. Pro úlohy klasifikace nebo regrese vyberte modely, které odpovídají úloze. Například jazykový model, který může klasifikovat, může být všestrannější než model, který klasifikuje pouze.
Vyhodnocení možností sestavení a nákupu
Pokud jsou obecné odpovědi přijatelné, měl by pro vaši úlohu stačit předem připravený model nebo řešení založené na službě AI, které používá neprůzné zpracování. Pokud ale potřebujete data specifická pro vaši firmu nebo máte požadavky na dodržování předpisů, vytvořte vlastní model.
Při výběru mezi vlastním modelem, předem vytvořeným modelem nebo službou zvažte tyto faktory:
- Kontrola dat: Vlastní modely poskytují větší kontrolu nad citlivými daty. Předem připravené modely jsou pro obecné úlohy jednodušší.
- Přizpůsobení: Vlastní modely jsou lepší pro jedinečné potřeby. Předem připravené modely můžou chybět flexibilitu.
- Náklady a údržba: Vlastní modely potřebují průběžnou údržbu a prostředky. Předem připravené modely obvykle mají nižší počáteční náklady a menší zátěž infrastruktury.
- Výkon: Předpřipravené služby nabízejí optimalizovanou infrastrukturu a škálovatelnost. Jsou ideální pro potřeby s nízkou latencí nebo vysokou škálovatelností.
- Odbornost: Uživatelské modely vyžadují odborný tým. Předem připravené modely se často rychleji nasazují a snadněji se používají, pokud jsou odborné znalosti omezené.
Důležité
Vytváření a údržba vlastního modelu vyžaduje spoustu zdrojů, času a odborných znalostí. Než se rozhodnete, je důležité důkladně prozkoumat. Volba předem vytvořeného modelu nebo spravované služby je obvykle lepší volbou.
Jaké jsou běžné výzvy?
- náklady na výpočetní prostředky: Funkce umělé inteligence můžou být nákladné kvůli vysokým výpočetním potřebám a výpočetní potřeby se můžou lišit podle návrhu úloh. Seznamte se s vašimi požadavky a zvolte správnou službu pro správu nákladů.
- Požadavky na zabezpečení a dodržování předpisů: Standardní řešení nemusí splňovat vaše požadavky na zabezpečení a dodržování předpisů. Možnosti výzkumu, které se vyhýbají zbytečným zátěžem.
- Objem dat: Zpracování velkých objemů dat v různých formátech přináší výzvy při ochraně citlivých informací a efektivního zpracování. Optimalizace nákladů na úložiště, zpracování a přenos by měla být probíhající aktivita.
- Úpadek modelu: Modely mohou v průběhu času zhoršovat, což vede k nepřesným výsledkům. Testování systémů AI je náročné kvůli jejich náhodnosti.
- výzvy dovedností: Nové úlohy umělé inteligence můžou potřebovat specializované role a nové provozní procesy, které vyžadují rozsáhlé školení.
- Tempo inovací umělé inteligence: Přijetí nejnovějších technologií může být lákavé pro zachování technologického náskoku. Pečlivě vyhodnoťte nové technologie, abyste zajistili, že zlepšují uživatelské prostředí a nezlepší jenom složitost, protože jsou aktuální.
- etických požadavků: Jasně určete, jestli je váš případ použití etickým cílem umělé inteligence. Udržování etických standardů je nezbytné v rámci fází plánování a implementace, abyste zajistili, že vytváříte zodpovědný systém.
Jak používat tyto doprovodné materiály
✔ Začít metodikou návrhu , která popisuje odůvodnění a opakující se témata napříč technickými a provozními oblastmi. Tento systematický přístup pomáhá definovat požadavky a strategie návrhu. Znovu se k této metodologii podívejte, když se setkáte s nejistými volbami, abyste zůstali v souladu s celkovými cíli úlohy. Poskytuje také rámec pro spolupráci se zúčastněnými stranami za účelem odůvodnění technických rozhodnutí a začlenění zpětné vazby zákazníků pro průběžné zlepšování.
✔ Pokračujte na principy návrhu, abyste zjistili, jak metodologie návrhu odpovídá základním pilířům frameworku Well-Architected. Zvažte vývoj růstu. Vyhodnoťte základní principy pro všechny pilíře souhrnně, včetně kompromisů.
✔ Zaměřte se na oblasti návrhu, které mají největší vliv na vaše řešení. Každá oblast zahrnuje aspekty a doporučení, které vás provedou rozhodováním o návrhu.
✔
Typický vzor architektury a oblasti návrhu
Následující diagram znázorňuje, jak data procházejí systémem z počáteční kolekce až po konečnou interakci uživatelů.
Architektura zdůrazňuje integraci různých komponent, které umožňují efektivní zpracování dat, optimalizaci modelů a nasazování aplikací v reálném čase v řešeních řízených AI. Zahrnuje moduly, jako jsou zdroje dat, zpracování dat, trénování modelu, nasazení modelu a uživatelská rozhraní.
Následující tabulka popisuje některé klíčové oblasti návrhu související s tímto vzorem.
| Oblasti návrhu |
|---|
| návrhu aplikací: Přečtěte si o aspektech jedinečných pro úlohy AI, které můžou mít významný vliv na vaše stávající standardy návrhu aplikací. |
| aplikační platforma: Určete nejlepší platformy, které se mají použít k podpoře funkcí pracovního zatížení AI, jako je hostování modelů, trénování modelů a inferencing. |
| Návrh trénovacích dat: Strategie návrhu pro příjem dat, předběžné zpracování, uchovávání a správu, které se týkají zpracování trénovacích dat modelu. |
| návrhu podkladových dat: Strategie návrhu pro optimalizaci vyhledávání a načítání a splnění požadavků na zabezpečení a dodržování předpisů pro podkladová data. |
| datová platforma: Určete nejlepší hostující platformu pro zpracování velkých objemů a potenciálně mnoha formátů dat, která vaše úloha používá. |
| operací strojového učení a operací generování umělé inteligence: Vytvořte moderní postupy DevOps pro podporu strojového učení nebo generování funkcí a systémů umělé inteligence. |
| Provoz úloh: Modernizujte své provozní postupy pomocí nových přístupů a zahrňte specializované role a školení. |
| testovací a vyhodnocovací: Vyvíjejte strategie testování a hodnocení pro měření charakteristik, jako je přesnost, přesnost, citlivost a specificita prostřednictvím metrik, které jsou cílem úloh AI. |
| osoby úlohy: Seznamte se s tím, jak jsou osoby zapojeny do úplného životního cyklu vaší úlohy AI, abyste zajistili, že váš tým bude plně schopný ho vytvářet a podporovat. |
| Zodpovědná umělá inteligence: Věnujte zvláštní pozornost uživatelskému prostředí a etickým důsledkům uvedení vašeho AI řešení veřejnosti. AI přináší neuvěřitelné příležitosti pro nové produkty a služby, ale přináší také značný stupeň rizika. |
Tip
Každé rozhodnutí o architektuře zahrnuje celou řadu aspektů a sadu potvrzených kompromisů, které vyvažují různé aspekty architektury. Tyto kompromisy jsou označeny touto ikonou 
.