Co to jest usługa wnioskowania modelu AI platformy Azure?
Usługa wnioskowania modeli sztucznej inteligencji platformy Azure zapewnia dostęp do najbardziej zaawansowanych modeli dostępnych w katalogu modeli AI platformy Azure. Pochodzący z kluczowych dostawców modeli w branży, w tym OpenAI, Microsoft, Meta, Mistral, Cohere, G42 i AI21 Labs; modele te można zintegrować z rozwiązaniami oprogramowania, aby dostarczać szeroką gamę zadań, w tym generowanie zawartości, podsumowywanie, zrozumienie obrazów, wyszukiwanie semantyczne i generowanie kodu.
Usługa wnioskowania modelu AI platformy Azure umożliwia korzystanie z modeli jako interfejsów API bez hostowania ich w infrastrukturze. Modele są hostowane w infrastrukturze zarządzanej przez firmę Microsoft, która umożliwia dostęp oparty na interfejsie API do modelu dostawcy modelu. Dostęp oparty na interfejsie API może znacznie obniżyć koszt uzyskiwania dostępu do modelu i uprościć środowisko aprowizacji.
Modele
Możesz uzyskać dostęp do kluczowych dostawców modeli w branży, w tym OpenAI, Microsoft, Meta, Mistral, Cohere, G42 i AI21 Labs. Dostawcy modeli definiują postanowienia licencyjne i określają cenę użycia swoich modeli. Na poniższej liście przedstawiono wszystkie dostępne modele:
| Dostawca modelu | Modele |
|---|---|
| Laboratoria AI21 | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1-preview (Request Access) - o1-mini (Request Access) - gpt-4o-mini - gpt-4o - text-embedding-3-small - text-embedding-3-large |
| Cohere | - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-embed-v3-multilingual - Cohere-embed-v3-english - Cohere-command-r-plus - Cohere-command-r |
| Meta AI | - Meta-Llama-3-8B-Poinstruowanie - Meta-Llama-3-70B-Poinstruowanie - Meta-Llama-3.1-8B-Poinstruowanie - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-405B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct |
| Mistral AI | - Mistral-Small - Mistral-Nemo - Mistral-large - Mistral-large-2407 |
| Microsoft | - Phi-3-mini-4k-poinstruowanie - Phi-3-medium-4k-poinstruowanie - Phi-3-mini-128k-poinstruowanie - Phi-3-medium-128k-poinstruowanie - Phi-3-small-8k-poinstruowanie - Phi-3-small-128k-poinstruowanie - Phi-3.5-vision-poinstruowanie - Phi-3.5-mini-poinstruowanie - Phi-3.5-MoE-poinstruowanie |
Możesz zdecydować i skonfigurować, które modele są dostępne do wnioskowania w utworzonym zasobie. Po skonfigurowaniu danego modelu można wygenerować z niego przewidywania, wskazując jego nazwę modelu lub nazwę wdrożenia na żądaniach. Do użycia w kodzie nie są wymagane żadne dalsze zmiany.
Aby dowiedzieć się, jak dodawać modele do zasobu wnioskowania modelu AI platformy Azure i używać ich, przeczytaj Dodawanie i konfigurowanie modeli do modeli sztucznej inteligencji platformy Azure w wnioskowaniu modelu AI platformy Azure.
Cennik
Modele oferowane przez dostawców innych niż Microsoft (na przykład modele Meta AI i Mistral) są rozliczane za pośrednictwem witryny Azure Marketplace. W przypadku takich modeli musisz zasubskrybować konkretną ofertę modelu zgodnie z warunkami użytkowania platformy handlowej firmy Microsoft. Użytkownicy akceptują postanowienia licencyjne dotyczące używania modeli. Informacje o cenach użycia są udostępniane podczas wdrażania.
Modele oferowane przez firmę Microsoft (na przykład modele Phi-3 i modele Azure OpenAI) nie mają tego wymagania, a opłaty są naliczane za pośrednictwem mierników platformy Azure jako usług zużycie przez firmę First Party. Zgodnie z opisem w warunkach produktu kupujesz usługi Zużycie pierwszej firmy przy użyciu mierników platformy Azure, ale nie podlegają warunkom świadczenia usług platformy Azure.