Co je odvození modelu Azure AI?
Odvozování modelů Azure AI poskytuje přístup k nejvýkonnějším modelům dostupným v katalogu modelů Azure AI. Modely pocházejí od klíčových poskytovatelů modelů v oboru, včetně OpenAI, Microsoft, Meta, Mistral, Cohere, G42 a AI21 Labs. Tyto modely je možné integrovat se softwarovými řešeními a poskytovat širokou škálu úloh, mezi které patří generování obsahu, shrnutí, porozumění obrázkům, sémantické vyhledávání a generování kódu.
Odvozování modelů Azure AI poskytuje způsob, jak využívat modely jako rozhraní API bez jejich hostování ve vaší infrastruktuře. Modely jsou hostované v infrastruktuře spravované Microsoftem, která umožňuje přístup založený na rozhraní API k modelu poskytovatele modelu. Přístup založený na rozhraní API může výrazně snížit náklady na přístup k modelu a zjednodušit prostředí zřizování.
Odvození modelu Azure AI je součástí služeb Azure AI a uživatelé mají přístup ke službě prostřednictvím rozhraní REST API, sad SDK v několika jazycích, jako je Python, C#, JavaScript a Java. Můžete také použít odvozování modelu Azure AI z Azure AI Foundry tak, že nakonfigurujete připojení.
Modely
Přístup ke klíčovým poskytovatelům modelů v odvětví, včetně OpenAI, Microsoftu, Meta, Mistrala, Cohere, G42 a AI21 Labs. Poskytovatelé modelů definují licenční podmínky a nastavují cenu pro použití svých modelů. V následujícím seznamu jsou uvedeny všechny dostupné modely:
| Poskytovatel | Modely |
|---|---|
| Testovací prostředí AI21 | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1 - gpt-4o – o1-preview - o1-mini - gpt-4o-mini - text-embedding-3-large - text-embedding-3-small |
| Souviset | - Cohere-embed-v3-english - Cohere-embed-v3-multilingual - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-command-r-plus - Cohere-command-r |
| Core42 | - jais-30b-chat |
| Meta | - Llama-3.3-70B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct - Meta-Llama-3.1-405B-Instruct - Meta-Llama-3-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3-70B-Instruct |
| Microsoft | - Phi-3-mini-128k-instruct - Phi-3-mini-4k-instruct - Phi-3-small-8k-instruct - Phi-3-medium-128k-instruct - Phi-3-medium-4k-instruct - Phi-3.5-vision-instruct - Phi-3.5-MoE-instruct - Phi-3-small-128k-instruct - Phi-3.5-mini-instruct - Phi-4 |
| Mistral AI | - Ministral-3B - Mistral-large - Mistral-small - Mistral-Nemo - Mistral-large-2407 - Mistral-Large-2411 - Codestral-2501 |
| NTT Data | - Tsuzumi-7b |
Ceny
Pro modely od jiných poskytovatelů než Microsoftu (například Meta AI a Mistral models) je fakturace prostřednictvím Azure Marketplace. U takových modelů se musíte přihlásit k odběru konkrétní nabídky modelu v souladu s podmínkami použití komerčního marketplace Microsoftu. Uživatelé přijímají licenční podmínky pro použití modelů. Informace o cenách pro spotřebu se poskytují během nasazování.
U modelů Microsoftu (například modelů Phi-3 a modelů Azure OpenAI) se fakturace provádí prostřednictvím měřičů Azure jako služby Consumption Services první strany. Jak je popsáno v podmínkách produktu, zakoupíte služby Consumption Services první strany pomocí měřičů Azure, ale nejsou předmětem podmínek služeb Azure.
Tip
Zjistěte, jak monitorovat a spravovat náklady v odvozování modelů Azure AI.
Zodpovědná AI
V Microsoftu jsme se zavázali k pokroku umělé inteligence řízeného principy, které lidem dávají přednost. Generování modelů, jako jsou modely dostupné v modelech Azure AI, mají významné potenciální výhody, ale bez pečlivého návrhu a promyšleného zmírnění rizik mají takové modely potenciál generovat nesprávný nebo dokonce škodlivý obsah.
Microsoft pomáhá chránit před zneužitím a nezamýšleným poškozením provedením následujících akcí:
- Začlenění principů Microsoftu pro zodpovědné použití umělé inteligence
- Přijetí kodexu chování pro používání služby
- Vytváření filtrů obsahu pro podporu zákazníků
- Poskytování zodpovědných informací a pokynů pro AI, které by zákazníci měli zvážit při používání Azure OpenAI.
Začínáme
Odvozování modelů Azure AI je nová nabídka funkcí pro prostředky azure AI Services. Můžete s ním začít stejně jako s jakýmkoli jiným produktem Azure, ve kterém vytváříte a konfigurujete prostředek pro odvozování modelu Azure AI nebo instanci služby ve vašem předplatném Azure. Můžete vytvořit tolik prostředků, kolik potřebujete, a nakonfigurovat je nezávisle v případě, že máte více týmů s různými požadavky.
Jakmile vytvoříte prostředek azure AI Services, musíte nasadit model, abyste mohli začít volat rozhraní API. Ve výchozím nastavení nejsou k dispozici žádné modely, takže můžete určit, od kterých modelů začít. Podívejte se na kurz Vytvoření prvního nasazení modelu v odvozování modelu Azure AI.