Wat is azure AI-modeldeductieservice?
Deductieservice van Azure AI-modellen biedt toegang tot de krachtigste modellen die beschikbaar zijn in de Azure AI-modelcatalogus. Afkomstig van de belangrijkste modelproviders in de branche, waaronder OpenAI, Microsoft, Meta, Mistral, Cohere, G42 en AI21 Labs; deze modellen kunnen worden geïntegreerd met softwareoplossingen om een breed scala aan taken te leveren, waaronder het genereren van inhoud, samenvatting, begrip van afbeeldingen, semantische zoekopdrachten en het genereren van code.
De azure AI-modeldeductieservice biedt een manier om modellen als API's te gebruiken zonder deze te hosten op uw infrastructuur. Modellen worden gehost in een door Microsoft beheerde infrastructuur, waardoor API-toegang tot het model van de modelprovider mogelijk is. Api-toegang kan de kosten voor het openen van een model aanzienlijk verlagen en de inrichtingservaring vereenvoudigen.
Modellen
U kunt toegang krijgen tot de belangrijkste modelproviders in de branche, waaronder OpenAI, Microsoft, Meta, Mistral, Cohere, G42 en AI21 Labs. Modelproviders definiëren de licentievoorwaarden en stellen de prijs in voor het gebruik van hun modellen. In de volgende lijst ziet u alle beschikbare modellen:
| Modelprovider | Modellen |
|---|---|
| AI21 Labs | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1-preview (Toegang aanvragen) - o1-mini (Toegang aanvragen) - gpt-4o-mini - gpt-4o - text-embedding-3-small - text-embedding-3-large |
| Cohere | - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-embed-v3-meertalige - Cohere-embed-v3-english - Cohere-command-r-plus - Cohere-command-r |
| Meta AI | - Meta-Llama-3-8B-Instruct - Meta-Llama-3-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-405B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct |
| Mistral AI | - Mistral-Small - Mistral-Nemo - Mistral-large - Mistral-large-2407 |
| Microsoft | - Phi-3-mini-4k-instruct - Phi-3-medium-4k-instruct - Phi-3-mini-128k-instruct - Phi-3-medium-128k-instruct - Phi-3-small-8k-instruct - Phi-3-small-128k-instruct - Phi-3.5-vision-instruct - Phi-3.5-mini-instruct - Phi-3.5-MoE-instruct |
U kunt bepalen en configureren welke modellen beschikbaar zijn voor deductie in de gemaakte resource. Wanneer een bepaald model is geconfigureerd, kunt u er vervolgens voorspellingen van genereren door de modelnaam of implementatienaam voor uw aanvragen aan te geven. Er zijn geen verdere wijzigingen vereist in uw code om deze te gebruiken.
Als u wilt weten hoe u modellen toevoegt aan de deductieresource van het Azure AI-model en deze gebruikt, leest u Modellen toevoegen en configureren voor Azure AI-modellen in Azure AI-modeldeductie.
Prijzen
Modellen die worden aangeboden door niet-Microsoft-providers (bijvoorbeeld Meta AI- en Mistral-modellen) worden gefactureerd via Azure Marketplace. Voor dergelijke modellen moet u zich abonneren op het specifieke modelaanbod in overeenstemming met de gebruiksvoorwaarden van Microsoft Commercial Marketplace. Gebruikers accepteren licentievoorwaarden voor het gebruik van de modellen. Prijsinformatie voor verbruik wordt verstrekt tijdens de implementatie.
Modellen die worden aangeboden door Microsoft (bijvoorbeeld Phi-3-modellen en Azure OpenAI-modellen) hebben deze vereiste niet en ze worden gefactureerd via Azure-meters als First Party Consumption Services. Zoals beschreven in de productvoorwaarden, koopt u First Party Consumption Services met behulp van Azure-meters, maar deze zijn niet onderhevig aan de Azure-servicevoorwaarden.