Modely dostupné v odvozování modelů Azure AI
Odvozování modelů Azure AI v Azure AI Foundry poskytuje přístup k vlajkovým modelům v Azure AI, abyste je mohli využívat jako rozhraní API, aniž byste je hostovali ve vaší infrastruktuře.
Tip
DeepSeek-R1 (Preview) je k dispozici pro nasazení jako koncový bod bezserverového rozhraní API.
Dostupnost modelu se liší podle poskytovatele modelu, skladové položky nasazení a cloudu. Všechny modely dostupné v odvozování modelů Azure AI podporují globální typ standardního nasazení, který k zajištění propustnosti využívá globální kapacitu. Modely Azure OpenAI také podporují regionální nasazení a suverénní cloudy – Azure Government, Azure Germany a Azure China 21Vianet.
Další informace o konkrétních možnostech nasazení pro Azure OpenAI najdete v dostupnosti modelu Azure OpenAI.
Tip
Katalog modelů Azure AI nabízí větší výběr modelů od většího rozsahu poskytovatelů. Tyto modely ale můžou vyžadovat, abyste je hostovali ve vaší infrastruktuře, včetně vytvoření centra AI a projektu. Modelová služba Azure AI poskytuje způsob, jak využívat modely jako rozhraní API bez jejich hostování ve vaší infrastruktuře s průběžnými platbami. Přečtěte si další informace o katalogu modelů Azure AI.
V katalogu modelů pro portál Azure AI Foundry můžete zobrazit všechny dostupné modely.
Testovací prostředí AI21
Modely rodiny Jamba jsou modelem Mamba založeným na produkčním prostředí Mamba velkého jazykového modelu (LLM), který používá hybridní architekturu Mamba-Transformer AI21. Jedná se o instrukční verzi modelu SSM (Hybrid Structured State Space Model) AI21. Modely rodiny Jamba jsou vytvořeny pro spolehlivé komerční použití s ohledem na kvalitu a výkon.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
AI21-Jamba-1.5-Mini | dokončení chatu | Globální standard |
-
Vstup: text (262 144 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en , fr , es , pt , de , , ar , a he - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
AI21-Jamba-1.5-Large | dokončení chatu | Globální standard |
-
Vstup: text (262 144 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en , fr , es , pt , de , , ar , a he - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
Azure OpenAI
Služba Azure OpenAI nabízí různorodou sadu modelů s různými možnostmi a cenovými body. Mezi tyto modely patří:
- Nejmodernější modely navržené tak, aby řešily důvody a úlohy řešení problémů se zvýšeným zaměřením a schopností
- Modely, které můžou porozumět přirozenému jazyku a kódu a generovat je
- Modely, které můžou přepisovat a překládat řeč na text
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
o1 | dokončení chatu | Globální standard |
-
Vstup: text a obrázek (200 000 tokenů) - Výstup: text (100 000 tokenů) - Jazyky: , , , , es , de , id ne bn is sw th el lv ja ar uk ru pl cy ur fr zh tr ko , pa , , mr a .te af it en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
o1-preview | dokončení chatu | Globální standard Standard |
-
Vstup: text (128 000 tokenů) - Výstup: (32 768 tokenů) - Jazyky: , , , , es , de , id ne bn is sw th el lv ja ar uk ru pl cy ur fr zh tr ko , pa , , mr a .te af it en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
o1-mini | dokončení chatu | Globální standard Standard |
-
Vstup: text (128 000 tokenů) - Výstup: (65 536 tokenů) - Jazyky: , , , , es , de , id ne bn is sw th el lv ja ar uk ru pl cy ur fr zh tr ko , pa , , mr a .te af it en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
gpt-4o-realtime-preview | v reálném čase | Globální standard |
-
Vstup: ovládací prvek, text a zvuk (131 072 tokenů) - Výstup: text a zvuk (16 384 tokenů) - Jazyky: en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
gpt-4o | dokončení chatu | Globální standard Standard Batch Zřízené Globální zřízeno Datová zóna |
-
Vstup: text a obrázek (131 072 tokenů) - Výstup: text (16 384 tokenů) - Jazyky: , , , , es , de , id ne bn is sw th el lv ja ar uk ru pl cy ur fr zh tr ko , pa , , mr a .te af it en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
gpt-4o-mini | dokončení chatu | Globální standard Standard Batch Zřízené Globální zřízeno Datová zóna |
-
Vstup: text, obrázek a zvuk (131 072 tokenů) - Výstup: (16 384 tokenů) - Jazyky: , , , , es , de , id ne bn is sw th el lv ja ar uk ru pl cy ur fr zh tr ko , pa , , mr a .te af it en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON, strukturované výstupy |
text-embedding-3-large | vkládání | Globální standard Standard Zřízené Globální zřízeno |
-
Vstup: text (8 191 tokenů) - Výstup: Vektor (3 072 dim.) - Jazyky: en |
text-embedding-3-small | vkládání | Globální standard Standard Zřízené Globální zřízeno |
-
Vstup: text (8 191 tokenů) - Výstup: Vektor (1 536 dim.) - Jazyky: en |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
Souviset
Řada modelů Cohere zahrnuje různé modely optimalizované pro různé případy použití, včetně dokončování chatu a vkládání. Modely cohere jsou optimalizované pro různé případy použití, mezi které patří odůvodnění, shrnutí a odpovědi na otázky.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
Cohere-embed-v3-english | vkládání vkládání obrázků |
Globální standard |
-
Vstup: text (512 tokenů) - Výstup: Vektor (1 024 dim.) - Jazyky: en |
Cohere-embed-v3-multilingual | vkládání vkládání obrázků |
Globální standard |
-
Vstup: text (512 tokenů) - Výstup: Vektor (1 024 dim.) - Jazyky: en, fr, es, it, de, pt-br, ja, ko, zh-cn a ar |
Cohere-command-r-plus-08-2024 | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en, fr, es, it, de, pt-br, ja, ko, zh-cn a ar - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Cohere-command-r-08-2024 | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en, fr, es, it, de, pt-br, ja, ko, zh-cn a ar - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Cohere-command-r-plus | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en, fr, es, it, de, pt-br, ja, ko, zh-cn a ar - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Cohere-command-r | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en, fr, es, it, de, pt-br, ja, ko, zh-cn a ar - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
Core42
Core42 obsahuje automatické obousměrné llmy pro arabštinu a angličtinu s nejmodernějšími funkcemi v arabštině.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
jais-30b-chat | dokončení chatu | Globální standard |
-
Vstup: text (8 192 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en a ar - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
Meta
Modely a nástroje Meta Llama představují kolekci předem natrénovaných a jemně vyladěných generovaných generovaných textových a obrázkových modelů AI. Rozsah metamodelů je škálovatelný tak, aby zahrnoval:
- Malé jazykové modely (SLM), jako jsou 1B a 3B Base, a pokyny k modelům pro odvozování na zařízení a hraničních zařízeních
- Velké jazykové modely střední velikosti (LLM), jako jsou 7B, 8B a 70B Base a Pokyny
- Vysoce výkonné modely, jako je Meta Llama 3.1-405B, pokyny pro syntetické generování dat a případy použití destilační.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
Llama-3.3-70B-Instruct | dokončení chatu | Globální standard |
-
Vstup: text (128 000 tokenů) - Výstup: text (8 192 tokenů) - Jazyky: en, de, fr, it, pt, hi, es a th - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Llama-3.2-11B-Vision-Instruct | dokončení chatu | Globální standard |
-
Vstup: text a obrázek (128 000 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Llama-3.2-90B-Vision-Instruct | dokončení chatu | Globální standard |
-
Vstup: text a obrázek (128 000 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Meta-Llama-3.1-405B-Instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en, de, fr, it, pt, hi, es a th - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Meta-Llama-3-8B-Instruct | dokončení chatu | Globální standard |
-
Vstup: text (8 192 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Meta-Llama-3.1-70B-Instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en, de, fr, it, pt, hi, es a th - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Meta-Llama-3.1-8B-Instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en, de, fr, it, pt, hi, es a th - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Meta-Llama-3-70B-Instruct | dokončení chatu | Globální standard |
-
Vstup: text (8 192 tokenů) - Výstup: (8 192 tokenů) - Jazyky: en - Volání nástrojů: Ne* - Formáty odpovědí: Text |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
Microsoft
Phi je rodina jednoduchých, nejmodernějších otevřených modelů. Tyto modely byly trénovány pomocí datových sad Phi-3. Datové sady zahrnují syntetická data i filtrovaná veřejně dostupná data webů s důrazem na vysoce kvalitní a důvodově zhuštěné vlastnosti. Modely prošly přísným procesem vylepšení, který zahrnuje jak vyladění pod dohledem, optimalizaci zásad proximální, tak přímou optimalizaci předvoleb, aby se zajistilo přesné dodržování instrukcí a robustní bezpečnostní opatření.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
Phi-3-mini-128k-instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3-mini-4k-instruct | dokončení chatu | Globální standard |
-
Vstup: text (4 096 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3-small-8k-instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3-medium-128k-instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3-medium-4k-instruct | dokončení chatu | Globální standard |
-
Vstup: text (4 096 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3.5-vision-instruct | dokončení chatu | Globální standard |
-
Vstup: text a obrázek (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3.5-MoE-instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: text (4 096 tokenů) - Jazyky: en, ar, zh, cs, da, nl, fi, fr, de, he, hu, it, ja, ko, no, pl, pt, ru, es, sv, th, tr, and uk - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3-small-128k-instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-3.5-mini-instruct | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en, ar, zh, cs, da, nl, fi, fr, de, he, hu, it, ja, ko, no, pl, pt, ru, es, sv, th, tr, and uk - Volání nástrojů: Ne - Formáty odpovědí: Text |
Phi-4 | dokončení chatu | Globální standard |
-
Vstup: text (16 384 tokenů) - Výstup: (16 384 tokenů) - Jazyky: en, ar, bn, cs, da, de, el, es, fa, fi, fr, gu, ha, he, hi, hu, id, it, ja, jv, kn, ko, ml, mr, nl, no, or, pa, pl, ps, pt, ro, ru, sv, sw, ta, te, th, tl, tr, uk, your, vi, yo, and zh - Tool call: No - Formáty odpovědí: Text |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
Mistral AI
Mistral AI nabízí dvě kategorie modelů: prémiové modely, včetně Mistral Large a Mistral Small a otevřené modely včetně Mistral Nemo.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
Ministral-3B | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: text (4 096 tokenů) - Jazyky: fr, de, es, it a en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Mistral-large | dokončení chatu | Globální standard |
-
Vstup: text (32 768 tokenů) - Výstup: (4 096 tokenů) - Jazyky: fr, de, es, it a en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Mistral-small | dokončení chatu | Globální standard |
-
Vstup: text (32 768 tokenů) - Výstup: text (4 096 tokenů) - Jazyky: fr, de, es, it a en - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Mistral-Nemo | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: text (4 096 tokenů) - Jazyky: en, fr, de, es, it, zh, ja, ko, pt, nl a pl - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Mistral-large-2407 | dokončení chatu | Globální standard |
-
Vstup: text (131 072 tokenů) - Výstup: (4 096 tokenů) - Jazyky: en, fr, de, es, it, zh, ja, ko, pt, nl a pl - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Mistral-Large-2411 | dokončení chatu | Globální standard |
-
Vstup: text (128 000 tokenů) - Výstup: text (4 096 tokenů) - Jazyky: en, fr, de, es, it, zh, ja, ko, pt, nl a pl - Volání nástrojů: Ano - Formáty odpovědí: Text, JSON |
Codestral-2501 | dokončení chatu | Globální standard |
-
Vstup: text (262 144 tokenů) - Výstup: text (4 096 tokenů) - Jazyky: en - Volání nástrojů: Ne - Formáty odpovědí: Text |
Podívejte se na tuto kolekci modelů na portálu Azure AI Foundry.
NTT Data
Tsuzumi je autoregresivní jazyk optimalizovaný transformátor. Vyladěné verze používají jemné ladění pod dohledem (SFT). Tsuzumi je obsluha japonského i anglického jazyka s vysokou efektivitou.
Model | Typ | Úroveň | Možnosti |
---|---|---|---|
Tsuzumi-7b | dokončení chatu | Globální standard |
-
Vstup: text (8 192 tokenů) - Výstup: text (8 192 tokenů) - Jazyky: en a jp - Volání nástrojů: Ne - Formáty odpovědí: Text |
Další kroky
- Začněte ještě dnes a nasaďte svůj první model ve službách Azure AI.