Partager via


Langages de programmation pris en charge pour les modèles dans l’inférence de modèle Azure AI

Les modèles déployés dans l’inférence de modèle Azure AI peuvent être utilisés avec différents kits SDK et modèles de programmation. Le document suivant décrit celui à utiliser :

Tous les modèles

Tous les modèles déployés sur l’inférence de modèle Azure AI prennent en charge l’API d’inférence de modèle Azure AI et sa famille associée de kits SDK.

Pour utiliser ces kits SDK, connectez-les à l’URI d’inférence du modèle Azure AI (généralement sous la forme https://<resource-name>.services.ai.azure.com/models).

Package d’inférence Azure AI

Le package d’inférence Azure AI vous permet d’utiliser tous les modèles déployés sur le service d’inférence de modèle Azure AI et de facilement les modifier. Le package d’inférence Azure AI fait partie du SDK Azure AI Foundry.

Langue Documentation Package Exemples
C# Référence azure-ai-inference (NuGet) Exemples C#
Java Référence azure-ai-inference (Maven) Exemples Java
JavaScript Référence @azure/ai-inference (npm) Exemples JavaScript
Python Référence azure-ai-inference (PyPi) Exemples Python

Package de projets Azure AI

Le package de projets Azure AI permet au client d’accéder à un ensemble complet de fonctionnalités à partir d’un projet Azure AI. Ces fonctionnalités incluent l’inférence de modèle Azure AI, mais également des fonctionnalités avancées telles que le suivi, l’évaluation et le stockage de données. Le package de projets Azure AI fait partie du SDK Azure AI Foundry et tire parti du package d’inférence Azure AI et du package Azure OpenAI pour effectuer l’inférence en fonction des besoins des utilisateurs.

Langue Documentation Package Exemples
C# Référence Azure.AI.Projects (NuGet) Exemples C#
Python Référence azure-ai-projects (PyPi) Exemples Python

Intégrations

Infrastructure Langue Documentation Package Exemples
LangChain Python Référence langchain-azure-ai (PyPi) Exemples Python
Llama-Index Python Référence llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)
Exemples Python
Noyau sémantique Python Référence semantic-kernel[azure] (PyPi) Exemples Python
AutoGen Python Référence autogen-ext[azure] (PyPi) Démarrage rapide

Modèles Azure OpenAI

Les modèles Azure OpenAI peuvent être utilisés à l’aide des kits SDK et des langages de programmation suivants.

Pour utiliser ces kits SDK, connectez-les à l’URI du service Azure OpenAI (généralement sous la forme https://<resource-name>.openai.azure.com).

Kit de développement logiciel (SDK) OpenAI et Azure OpenAI

Langue Code source Package Exemples
C# Code source Azure.AI.OpenAI (NuGet) Exemples C#
Go Code source azopenai (Go) Exemples Go
Java Code source azure-ai-openai (Maven) Exemples Java
JavaScript Code source @azure/openai (npm) Exemples JavaScript
Python Code source openai (PyPi) Exemples Python

Intégrations

Infrastructure Langue Documentation Package Exemples
LangChain Python Référence langchain-openai (PyPi) Exemples Python
Llama-Index Python Référence llama-index-llms-openai (PyPi)
llama-index-embeddings-openai (PyPi)
Exemples Python
AutoGen Python Référence autogen-ext[openai] (PyPi) Démarrage rapide

Limites

Avertissement

Le SDK Cohere et le SDK Mistral ne sont pas pris en charge dans l’inférence de modèle Azure AI dans Azure AI Foundry.

Étapes suivantes

  • Pour voir quels modèles sont actuellement pris en charge, consultez la section Modèles.