Co je služba odvozování modelu Azure AI?
Služba odvozování modelů Azure AI poskytuje přístup k nejvýkonnějším modelům dostupným v katalogu modelů Azure AI. Pochází od klíčových poskytovatelů modelů v odvětví, včetně OpenAI, Microsoft, Meta, Mistral, Cohere, G42 a AI21 Labs; Tyto modely je možné integrovat se softwarovými řešeními, aby poskytovaly širokou škálu úloh, včetně generování obsahu, shrnutí, porozumění obrázkům, sémantického vyhledávání a generování kódu.
Služba odvozování modelů Azure AI poskytuje způsob, jak využívat modely jako rozhraní API bez jejich hostování ve vaší infrastruktuře. Modely jsou hostované v infrastruktuře spravované Microsoftem, která umožňuje přístup založený na rozhraní API k modelu poskytovatele modelu. Přístup založený na rozhraní API může výrazně snížit náklady na přístup k modelu a zjednodušit prostředí zřizování.
Modely
Přístup ke klíčovým poskytovatelům modelů v odvětví, včetně OpenAI, Microsoftu, Meta, Mistrala, Cohere, G42 a AI21 Labs. Poskytovatelé modelů definují licenční podmínky a nastavují cenu pro použití svých modelů. V následujícím seznamu jsou uvedeny všechny dostupné modely:
| Zprostředkovatel modelů | Modely |
|---|---|
| Testovací prostředí AI21 | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1-preview (Žádost o přístup) - o1-mini (Žádost o přístup) - gpt-4o-mini - gpt-4o - text-embedding-3-small - text-embedding-3-large |
| Souviset | - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-embed-v3-multilingual - Cohere-embed-v3-english - Cohere-command-r-plus - Cohere-command-r |
| Meta AI | - Meta-Llama-3-8B-Instruct - Meta-Llama-3-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-405B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct |
| Mistral AI | - Mistral-Small - Mistral-Nemo - Mistral-large - Mistral-large-2407 |
| Microsoft | - Phi-3-mini-4k-instruct - Phi-3-medium-4k-instruct - Phi-3-mini-128k-instruct - Phi-3-medium-128k-instruct - Phi-3 -small-8k-instruct - Phi-3-small-128k-instruct - Phi-3.5-vision-instruct - Phi-3.5-mini-instruct - Phi-3.5-MoE-instruct |
Můžete se rozhodnout a nakonfigurovat, které modely jsou k dispozici pro odvozování ve vytvořeném prostředku. Když je daný model nakonfigurovaný, můžete z něj vygenerovat předpovědi tím, že u vašich požadavků označíte jeho název modelu nebo název nasazení. Abyste ho mohli použít, nemusíte v kódu provádět žádné další změny.
Pokud chcete zjistit, jak přidat modely do prostředku odvozování modelu Azure AI a jak je použít, přečtěte si článek Přidání a konfigurace modelů do modelů Azure AI v odvozování modelů Azure AI.
Ceny
Modely, které nabízejí poskytovatelé jiných společností než Microsoft (například modely Meta AI a Mistral), se účtují prostřednictvím Azure Marketplace. U takových modelů se musíte přihlásit k odběru konkrétní nabídky modelu v souladu s podmínkami použití komerčního marketplace Microsoftu. Uživatelé přijímají licenční podmínky pro použití modelů. Informace o cenách pro spotřebu se poskytují během nasazování.
Modely, které nabízí Microsoft (například modely Phi-3 a modely Azure OpenAI), nemají tento požadavek a účtují se prostřednictvím měřičů Azure jako služby consumption první strany. Jak je popsáno v podmínkách produktu, zakoupíte služby Consumption Services první strany pomocí měřičů Azure, ale nejsou předmětem podmínek služeb Azure.