Compartilhar via


Linguagens de programação com suporte para modelos na inferência de modelo de IA do Azure

Modelos implantados na inferência de modelo de IA do Azure podem ser usados com SDKs e modelos de programação diferentes. O documento a seguir descreve qual deles usar:

Todos os modelos

Todos os modelos implantados na inferência de modelo de IA do Azure dão suporte à API de inferência do modelo de IA do Azure e à sua família associada de SDKs.

Para usar esses SDKs, conecte-os ao URI de inferência de modelo de IA do Azure (normalmente no formulário https://<resource-name>.services.ai.azure.com/models).

Pacote de inferência de IA do Azure

O pacote de inferência de IA do Azure permite que você consuma todos os modelos implantados no serviço de inferência de modelo de IA do Azure e altere facilmente entre eles. O pacote de inferência de IA do Azure faz parte do SDK da Fábrica de IA do Azure.

Idioma Documentação Pacote Exemplos
C# Referência azure-ai-inference (NuGet) Exemplos de C#
Java Referência azure-ai-inference (Maven) Exemplos de Java
JavaScript Referência @azure/ai-inference (npm) Exemplos de JavaScript
Python Referência azure-ai-inference (PyPi) Exemplos do Python

Pacote Projetos de IA do Azure

O pacote Projetos de IA do Azure permite que o cliente acesse um conjunto abrangente de funcionalidades de um projeto de IA do Azure. Esses recursos incluem inferência de modelo de IA do Azure, mas também recursos avançados, como rastreamento, avaliação e armazenamento de dados. O pacote de projetos de IA do Azure faz parte do SDK da Fábrica de IA do Azure e aproveita o pacote de Inferência de IA do Azure e o pacote do Azure OpenAI para executar a inferência dependendo das necessidades dos usuários.

Idioma Documentação Pacote Exemplos
C# Referência Azure.AI.Projects (NuGet) Exemplos de C#
Python Referência azure-ai-projects (PyPi) Exemplos do Python

Integrações

Estrutura Idioma Documentação Pacote Exemplos
LangChain Python Referência langchain-azure-ai (PyPi) Exemplos do Python
Llama-Index Python Referência llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)
Exemplos do Python
Semantic Kernel Python Referência semantic-kernel[azure] (PyPi) Exemplos do Python
AutoGen Python Referência autogen-ext[azure] (PyPi) Início Rápido

Modelos do OpenAI do Azure

Os modelos do OpenAI do Azure podem ser consumidos usando os SDKs e linguagens de programação a seguir.

Para usar esses SDKs, conecte-os ao URI do serviço OpenAI do Azure (normalmente no formulário https://<resource-name>.openai.azure.com).

OpenAI e SDK do Azure OpenAI

Idioma Código-fonte Pacote Exemplos
C# Código-fonte Azure.AI.OpenAI (NuGet) Exemplos de C#
Go Código-fonte azopenai (Go) Exemplos de Go
Java Código-fonte azure-ai-openai (Maven) Exemplos de Java
JavaScript Código-fonte @azure/openai (npm) Exemplos de JavaScript
Python Código-fonte openai (PyPi) Exemplos do Python

Integrações

Estrutura Idioma Documentação Pacote Exemplos
LangChain Python Referência langchain-openai (PyPi) Exemplos do Python
Llama-Index Python Referência llama-index-llms-openai (PyPi)
llama-index-embeddings-openai (PyPi)
Exemplos do Python
AutoGen Python Referência autogen-ext[openai] (PyPi) Início Rápido

Limitações

Aviso

Não há suporte para os SDKs do Cohere e do Mistral na inferência de modelo de IA do Azure na Fábrica de IA do Azure.

Próximas etapas

  • Para conferir quais modelos têm suporte no momento, confira a seção Modelos