Lenguajes de programación admitidos para modelos en la inferencia del modelo de Azure AI
Los modelos implementados en la inferencia del modelo de Azure AI se pueden usar con diferentes SDK y modelos de programación. En el siguiente documento se describe cuál se va a usar:
Todos los modelos
Todos los modelos implementados en la inferencia del modelo de Azure AI admiten la API de inferencia de modelo de Azure AI y su familia asociada de SDK.
Para usar estos SDK, conéctelos al URI de inferencia del modelo de Azure AI (normalmente con el formato https://<resource-name>.services.ai.azure.com/models).
Paquete de inferencia de Azure AI
El paquete de inferencia de Azure AI permite consumir todos los modelos implementados en el servicio de inferencia de modelos de Azure AI y cambiar fácilmente entre ellos. El paquete de inferencia de Azure AI forma parte del SDK de Azure AI Foundry.
| Lenguaje | Documentación | Paquete | Ejemplos |
|---|---|---|---|
| C# | Referencia | azure-ai-inference (NuGet) | Ejemplos de C# |
| Java | Referencia | azure-ai-inference (Maven) | Ejemplos de Java |
| JavaScript | Referencia | @azure/ai-inference (npm) | Ejemplos de JavaScript |
| Python | Referencia | azure-ai-inference (PyPi) | Ejemplos de Python |
Paquete de proyectos de Azure AI
El paquete de proyectos de Azure AI permite al cliente acceder a un conjunto completo de funcionalidades desde un proyecto de Azure AI. Estas funcionalidades incluyen la inferencia de modelos de Azure AI, pero también funcionalidades avanzadas, como el seguimiento, la evaluación y el almacenamiento de datos. El paquete de proyectos de Azure AI forma parte del SDK de la Fundición de IA de Azure y aprovecha el paquete de inferencia de Azure AI y el paquete de Azure OpenAI para realizar la inferencia en función de las necesidades de los usuarios.
| Lenguaje | Documentación | Paquete | Ejemplos |
|---|---|---|---|
| C# | Referencia | Azure.AI.Projects (NuGet) | Ejemplos de C# |
| Python | Referencia | azure-ai-projects (PyPi) | Ejemplos de Python |
Integraciones
| marco | Lenguaje | Documentación | Paquete | Ejemplos |
|---|---|---|---|---|
| LangChain | Python | Referencia | langchain-azure-ai (PyPi) | Ejemplos de Python |
| Llama-Index | Python | Referencia |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Ejemplos de Python |
| Kernel semántico | Python | Referencia | semantic-kernel[azure] (PyPi) | Ejemplos de Python |
| AutoGen | Python | Referencia | autogen-ext[azure] (PyPi) | Guía de inicio rápido |
Modelos de Azure OpenAI
Los modelos de Azure OpenAI se pueden consumir mediante los siguientes SDK y lenguajes de programación.
Para usar estos SDK, conéctelos al URI del servicio Azure OpenAI (normalmente con el formato https://<resource-name>.openai.azure.com).
SDK de OpenAI y Azure OpenAI
| Lenguaje | Código fuente | Paquete | Ejemplos |
|---|---|---|---|
| C# | Código fuente | Azure.AI.OpenAI (NuGet) | Ejemplos de C# |
| Go | Código fuente | azopenai (Go) | Ejemplos de Go |
| Java | Código fuente | azure-ai-openai (Maven) | Ejemplos de Java |
| JavaScript | Código fuente | @azure/openai (npm) | Ejemplos de JavaScript |
| Python | Código fuente | openai (PyPi) | Ejemplos de Python |
Integraciones
| marco | Lenguaje | Documentación | Paquete | Ejemplos |
|---|---|---|---|---|
| LangChain | Python | Referencia | langchain-openai (PyPi) | Ejemplos de Python |
| Llama-Index | Python | Referencia |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Ejemplos de Python |
| AutoGen | Python | Referencia | autogen-ext[openai] (PyPi) | Guía de inicio rápido |
Limitaciones
Advertencia
El SDK de Cohere y el SDK mistral no se admiten en la inferencia de modelos de Fundición de IA de Azure.
Pasos siguientes
- Para ver qué modelos se admiten actualmente, consulte la sección Modelos