Wat is azure AI-modeldeductie?
Azure AI-modeldeductie biedt toegang tot de krachtigste modellen die beschikbaar zijn in de Azure AI-modelcatalogus. De modellen zijn afkomstig van belangrijke modelproviders in de branche, waaronder OpenAI, Microsoft, Meta, Mistral, Cohere, G42 en AI21 Labs. Deze modellen kunnen worden geïntegreerd met softwareoplossingen om een breed scala aan taken te leveren met inhoudsgeneratie, samenvatting, begrip van afbeeldingen, semantische zoekopdrachten en het genereren van code.
Tip
DeepSeek-R1 is beschikbaar voor implementatie als serverloze API-eindpunt.
Azure AI-modeldeductie biedt een manier om modellen als API's te gebruiken zonder deze in uw infrastructuur te hosten. Modellen worden gehost in een door Microsoft beheerde infrastructuur, waardoor API-toegang tot het model van de modelprovider mogelijk is. Api-toegang kan de kosten voor het openen van een model aanzienlijk verlagen en de inrichtingservaring vereenvoudigen.
Azure AI-modeldeductie maakt deel uit van Azure AI Services en gebruikers hebben toegang tot de service via REST API's, SDK's in verschillende talen, zoals Python, C#, JavaScript en Java. U kunt ook de deductie van het Azure AI-model van Azure AI Foundry gebruiken door een verbinding te configureren.
Modellen
U kunt toegang krijgen tot de belangrijkste modelproviders in de branche, waaronder OpenAI, Microsoft, Meta, Mistral, Cohere, G42 en AI21 Labs. Modelproviders definiëren de licentievoorwaarden en stellen de prijs in voor het gebruik van hun modellen. In de volgende lijst ziet u alle beschikbare modellen:
Tip
Zie het artikel Modellen voor een gedetailleerde weergave van de modellen, mogelijkheden en details.
| Provider | Modellen |
|---|---|
| AI21 Labs | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1 - gpt-4o - o1-preview - o1-mini - gpt-4o-mini - tekst-insluiten-3-groot - tekst-insluiten-3-klein |
| Cohere | - Cohere-embed-v3-english - Cohere-embed-v3-meertalige - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-command-r-plus - Cohere-command-r |
| Core42 | - jais-30b-chat |
| Meta | - Llama-3.3-70B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct - Meta-Llama-3.1-405B-Instruct - Meta-Llama-3-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3-70B-Instruct |
| Microsoft | - Phi-3-mini-128k-instruct - Phi-3-mini-4k-instruct - Phi-3-small-8k-instruct - Phi-3-medium-128k-instruct - Phi-3-medium-4k-instruct - Phi-3.5-vision-instruct - Phi-3.5-MoE-instruct - Phi-3-small-128k-instruct - Phi-3.5-mini-instruct - Phi-4 |
| Mistral AI | - Ministral-3B - Mistral-large - Mistral-small - Mistral-Nemo - Mistral-large-2407 - Mistral-Large-2411 - Codestral-2501 |
| NTT-gegevens | - Tsuzumi-7b |
Prijzen
Voor modellen van niet-Microsoft-providers (bijvoorbeeld Meta AI- en Mistral-modellen) vindt facturering plaats via Azure Marketplace. Voor dergelijke modellen moet u zich abonneren op het specifieke modelaanbod in overeenstemming met de gebruiksvoorwaarden van Microsoft Commercial Marketplace. Gebruikers accepteren licentievoorwaarden voor het gebruik van de modellen. Prijsinformatie voor verbruik wordt verstrekt tijdens de implementatie.
Voor Microsoft-modellen (bijvoorbeeld Phi-3-modellen en Azure OpenAI-modellen) wordt facturering via Azure-meters als First Party Consumption Services gebruikt. Zoals beschreven in de productvoorwaarden, koopt u First Party Consumption Services met behulp van Azure-meters, maar deze zijn niet onderhevig aan de Azure-servicevoorwaarden.
Tip
Meer informatie over het bewaken en beheren van kosten in azure AI-modeldeductie.
Verantwoorde AI
Bij Microsoft zetten we ons in voor de vooruitgang van AI op basis van principes die mensen als eerste plaatsen. Generatieve modellen zoals de modellen die beschikbaar zijn in Azure AI-modellen hebben aanzienlijke potentiële voordelen, maar zonder zorgvuldig ontwerp en doordachte oplossingen hebben dergelijke modellen het potentieel om onjuiste of zelfs schadelijke inhoud te genereren.
Microsoft helpt u te beschermen tegen misbruik en onbedoelde schade door de volgende acties uit te voeren:
- De principes van Microsoft opnemen voor verantwoord AI-gebruik
- Een gedragscode aannemen voor het gebruik van de dienst
- Inhoudsfilters bouwen ter ondersteuning van klanten
- Het verstrekken van verantwoorde AI-informatie en richtlijnen die klanten moeten overwegen bij het gebruik van Azure OpenAI.
Aan de slag
Azure AI-modeldeductie is een nieuwe functie-aanbieding voor Azure AI Services-resources. U kunt ermee aan de slag gaan op dezelfde manier als elk ander Azure-product waar u uw resource maakt en configureert voor deductie van azure AI-modellen, of het exemplaar van de service, in uw Azure-abonnement. U kunt zoveel resources maken als nodig is en deze onafhankelijk configureren voor het geval u meerdere teams met verschillende vereisten hebt.
Zodra u een Azure AI Services-resource hebt gemaakt, moet u een model implementeren voordat u API-aanroepen kunt maken. Standaard zijn er geen modellen beschikbaar, zodat u kunt bepalen vanaf welke modellen u wilt beginnen. Zie de zelfstudie Uw eerste modelimplementatie maken in azure AI-modeldeductie.