Langages de programmation pris en charge pour les modèles dans l’inférence de modèle Azure AI
Les modèles déployés dans l’inférence de modèle Azure AI peuvent être utilisés avec différents kits SDK et modèles de programmation. Le document suivant décrit celui à utiliser :
Tous les modèles
Tous les modèles déployés sur l’inférence de modèle Azure AI prennent en charge l’API d’inférence de modèle Azure AI et sa famille associée de kits SDK.
Pour utiliser ces kits SDK, connectez-les à l’URI d’inférence du modèle Azure AI (généralement sous la forme https://<resource-name>.services.ai.azure.com/models).
Package d’inférence Azure AI
Le package d’inférence Azure AI vous permet d’utiliser tous les modèles déployés sur le service d’inférence de modèle Azure AI et de facilement les modifier. Le package d’inférence Azure AI fait partie du SDK Azure AI Foundry.
| Langue | Documentation | Package | Exemples |
|---|---|---|---|
| C# | Référence | azure-ai-inference (NuGet) | Exemples C# |
| Java | Référence | azure-ai-inference (Maven) | Exemples Java |
| JavaScript | Référence | @azure/ai-inference (npm) | Exemples JavaScript |
| Python | Référence | azure-ai-inference (PyPi) | Exemples Python |
Package de projets Azure AI
Le package de projets Azure AI permet au client d’accéder à un ensemble complet de fonctionnalités à partir d’un projet Azure AI. Ces fonctionnalités incluent l’inférence de modèle Azure AI, mais également des fonctionnalités avancées telles que le suivi, l’évaluation et le stockage de données. Le package de projets Azure AI fait partie du SDK Azure AI Foundry et tire parti du package d’inférence Azure AI et du package Azure OpenAI pour effectuer l’inférence en fonction des besoins des utilisateurs.
| Langue | Documentation | Package | Exemples |
|---|---|---|---|
| C# | Référence | Azure.AI.Projects (NuGet) | Exemples C# |
| Python | Référence | azure-ai-projects (PyPi) | Exemples Python |
Intégrations
| Infrastructure | Langue | Documentation | Package | Exemples |
|---|---|---|---|---|
| LangChain | Python | Référence | langchain-azure-ai (PyPi) | Exemples Python |
| Llama-Index | Python | Référence |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Exemples Python |
| Noyau sémantique | Python | Référence | semantic-kernel[azure] (PyPi) | Exemples Python |
| AutoGen | Python | Référence | autogen-ext[azure] (PyPi) | Démarrage rapide |
Modèles Azure OpenAI
Les modèles Azure OpenAI peuvent être utilisés à l’aide des kits SDK et des langages de programmation suivants.
Pour utiliser ces kits SDK, connectez-les à l’URI du service Azure OpenAI (généralement sous la forme https://<resource-name>.openai.azure.com).
Kit de développement logiciel (SDK) OpenAI et Azure OpenAI
| Langue | Code source | Package | Exemples |
|---|---|---|---|
| C# | Code source | Azure.AI.OpenAI (NuGet) | Exemples C# |
| Go | Code source | azopenai (Go) | Exemples Go |
| Java | Code source | azure-ai-openai (Maven) | Exemples Java |
| JavaScript | Code source | @azure/openai (npm) | Exemples JavaScript |
| Python | Code source | openai (PyPi) | Exemples Python |
Intégrations
| Infrastructure | Langue | Documentation | Package | Exemples |
|---|---|---|---|---|
| LangChain | Python | Référence | langchain-openai (PyPi) | Exemples Python |
| Llama-Index | Python | Référence |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Exemples Python |
| AutoGen | Python | Référence | autogen-ext[openai] (PyPi) | Démarrage rapide |
Limites
Avertissement
Le SDK Cohere et le SDK Mistral ne sont pas pris en charge dans l’inférence de modèle Azure AI dans Azure AI Foundry.
Étapes suivantes
- Pour voir quels modèles sont actuellement pris en charge, consultez la section Modèles.