Compartir vía

Lenguajes de programación admitidos para modelos en la inferencia del modelo de Azure AI

  • Artículo

Los modelos implementados en la inferencia del modelo de Azure AI se pueden usar con diferentes SDK y modelos de programación. En el siguiente documento se describe cuál se va a usar:

Todos los modelos

Todos los modelos implementados en la inferencia del modelo de Azure AI admiten la API de inferencia de modelo de Azure AI y su familia asociada de SDK.

Para usar estos SDK, conéctelos al URI de inferencia del modelo de Azure AI (normalmente con el formato https://<resource-name>.services.ai.azure.com/models).

SDK de inferencia de Azure AI

Lenguaje Documentación Paquete Ejemplos
C# Referencia azure-ai-inference (NuGet) Ejemplos de C#
Java Referencia azure-ai-inference (Maven) Ejemplos de Java
JavaScript Referencia @azure/ai-inference (npm) Ejemplos de JavaScript
Python Referencia azure-ai-inference (PyPi) Ejemplos de Python

SDK de Azure AI Foundry

Lenguaje Documentación Paquete Ejemplos
C# Referencia azure-ai-inference (NuGet) Ejemplos de C#
Python Referencia azure-ai-inference (PyPi) Ejemplos de Python

Integraciones

marco Lenguaje Documentación Paquete Ejemplos
LangChain Python Referencia langchain-azure-ai (PyPi) Ejemplos de Python
Llama-Index Python Referencia llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)		 Ejemplos de Python
Kernel semántico Python Referencia semantic-kernel[azure] (PyPi) Ejemplos de Python

Modelos de Azure OpenAI

Los modelos de Azure OpenAI se pueden consumir mediante los siguientes SDK y lenguajes de programación.

Para usar estos SDK, conéctelos al URI del servicio Azure OpenAI (normalmente con el formato https://<resource-name>.openai.azure.com).

Lenguaje Código fuente Paquete Ejemplos
C# Código fuente Azure.AI.OpenAI (NuGet) Ejemplos de C#
Go Código fuente azopenai (Go) Ejemplos de Go
Java Código fuente azure-ai-openai (Maven) Ejemplos de Java
JavaScript Código fuente @azure/openai (npm) Ejemplos de JavaScript
Python Código fuente openai (PyPi) Ejemplos de Python

Integraciones

marco Lenguaje Documentación Paquete Ejemplos
LangChain Python Referencia langchain-openai (PyPi) Ejemplos de Python
Llama-Index Python Referencia llama-index-llms-openai (PyPi)
llama-index-embeddings-openai (PyPi)		 Ejemplos de Python

Limitaciones

Advertencia

El SDK Cohere y el SDK Mistral no se admiten en la inferencia del modelo de Azure AI en Fundición de IA de Azure.

Pasos siguientes

  • Para ver qué modelos se admiten actualmente, consulte la sección Modelos