Regiontillgänglighet för modeller i serverlösa API-slutpunkter
I den här artikeln får du lära dig mer om vilka regioner som är tillgängliga för var och en av modellerna som stöder serverlösa API-slutpunktsdistributioner.
Viktigt!
Modeller som är i förhandsversion markeras som förhandsversioner på sina modellkort i modellkatalogen.
Vissa modeller i modellkatalogen kan distribueras som ett serverlöst API med betala per användning-fakturering. Den här typen av distribution ger ett sätt att använda modeller som ett API utan att vara värd för dem i din prenumeration, samtidigt som den företagssäkerhet och efterlevnad som organisationer behöver bevaras. Det här distributionsalternativet kräver inte kvot från din prenumeration.
Region tillgänglighet
Betala per användning-fakturering är endast tillgängligt för användare vars Azure-prenumeration tillhör ett faktureringskonto i ett land där modellleverantören har gjort erbjudandet tillgängligt (se "erbjudandetillgänglighetsregion" i tabellen i nästa avsnitt). Om erbjudandet är tillgängligt i den relevanta regionen måste användaren sedan ha en hubb/ett projekt i Azure-regionen där modellen är tillgänglig för distribution eller finjustering, i förekommande fall (se kolumnerna "Hub/Project Region" i följande tabeller).
Sammanhållna modeller
| Modell | Tillgänglighetsregion för erbjudande | Hubb/projektregion för distribution | Hubb/projektregion för finjustering |
|---|---|---|---|
| Cohere Command R+ 08-2024 | Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Command R 08-2024 | Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Command R+ | Microsoft Managed Countries Japan Qatar |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Command R | Microsoft Managed Countries Japan Qatar |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Rerank 3 - Engelska | Microsoft Managed Countries Japan Qatar |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Rerank 3 – Flerspråkig | Microsoft Managed Countries Japan Qatar |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Embed 3 – Engelska | Microsoft Managed Countries Japan Qatar |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Cohere Embed 3 – Flerspråkig | Microsoft Managed Countries Japan Qatar |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
JAIS-modeller
| Modell | Tillgänglighetsregion för erbjudande | Hubb/projektregion för distribution | Hubb/projektregion för finjustering |
|---|---|---|---|
| JAIS 30B Chat | Microsoft Managed Countries Egypten |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
Meta Llama-modeller
| Modell | Tillgänglighetsregion för erbjudande | Hubb/projektregion för distribution | Hubb/projektregion för finjustering |
|---|---|---|---|
| Llama 2 7B Llama 2 13B Llama 2 70B |
Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala USA, västra USA, västra 3 |
USA, västra 3 |
| Llama 2 7B Chatt Llama 2 70B Chatt |
Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala USA, västra USA, västra 3 |
USA, västra 3 |
| Llama 3 8B Instruera Llama 3 70B Instruera |
Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Llama 3.1 8B Instruera Llama 3.1 70B Instruera |
Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala USA, västra USA, västra 3 |
USA, västra 3 |
| Llama 3.1 405B Instruera | Microsoft Managed Countries | USA, östra USA, östra 2 USA, norra centrala USA, södra centrala USA, västra USA, västra 3 |
Inte tillgängliga |
Microsoft Phi-3-familjemodeller
| Modell | Tillgänglighetsregion för erbjudande | Hubb/projektregion för distribution | Hubb/projektregion för finjustering |
|---|---|---|---|
| Phi-3.5-vision-Instruct | Inte tillämpligt | USA, östra 2 Sverige, centrala |
Inte tillgängliga |
| Phi-3.5-MoE-Instruct | Inte tillämpligt | USA, östra 2 Sverige, centrala |
USA, östra 2 |
| Phi-3.5-Mini-Instruct | Inte tillämpligt | USA, östra 2 Sverige, centrala |
USA, östra 2 |
| Phi-3-Mini-4k-Instruct Phi-3-Mini-128K-Instruct |
Inte tillämpligt | USA, östra 2 Sverige, centrala |
USA, östra 2 |
| Phi-3-Small-8K-Instruct Phi-3-Small-128K-Instruct |
Inte tillämpligt | USA, östra 2 Sverige, centrala |
Inte tillgängliga |
| Phi-3-Medium-4K-Instruct Phi-3-Medium-128K-Instruct |
Inte tillämpligt | USA, östra 2 Sverige, centrala |
USA, östra 2 |
Mistralmodeller
| Modell | Tillgänglighetsregion för erbjudande | Hubb/projektregion för distribution | Hubb/projektregion för finjustering |
|---|---|---|---|
| Mistral Nemo | Microsoft Managed Countries Brasilien Hongkong Israel |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Ministral-3B | Microsoft Managed Countries Brasilien Hongkong Israel |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Mistral Small | Microsoft Managed Countries Brasilien Hongkong Israel |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Mistral Large (2402) | Microsoft Managed Countries Brasilien Hongkong Israel |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
| Mistral-Large (2407) | Microsoft Managed Countries Brasilien Hongkong Israel |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
Nixtla-modeller
| Modell | Tillgänglighetsregion för erbjudande | Hubb/projektregion för distribution | Hubb/projektregion för finjustering |
|---|---|---|---|
| TimeGEN-1 | Microsoft Managed Countries Mexico Israel |
USA, östra USA, östra 2 USA, norra centrala USA, södra centrala Sverige, centrala USA, västra USA, västra 3 |
Inte tillgängliga |
Alternativ till regiontillgänglighet
Om de flesta av infrastrukturen finns i en viss region och du bara vill dra nytta av modeller som är tillgängliga som serverlösa API-slutpunkter, kan du skapa en hubb eller ett projekt i den region som stöds och sedan använda slutpunkten från en annan region.
Läs Använda serverlösa API-slutpunkter från en annan hubb eller ett annat projekt för att lära dig hur du konfigurerar en befintlig serverlös API-slutpunkt i en annan hubb eller ett annat projekt än den där den distribuerades.