Linguagens de programação com suporte para modelos na inferência de modelo de IA do Azure
Modelos implantados na inferência de modelo de IA do Azure podem ser usados com SDKs e modelos de programação diferentes. O documento a seguir descreve qual deles usar:
Todos os modelos
Todos os modelos implantados na inferência de modelo de IA do Azure dão suporte à API de inferência do modelo de IA do Azure e à sua família associada de SDKs.
Para usar esses SDKs, conecte-os ao URI de inferência de modelo de IA do Azure (normalmente no formulário https://<resource-name>.services.ai.azure.com/models).
Pacote de inferência de IA do Azure
O pacote de inferência de IA do Azure permite que você consuma todos os modelos implantados no serviço de inferência de modelo de IA do Azure e altere facilmente entre eles. O pacote de inferência de IA do Azure faz parte do SDK da Fábrica de IA do Azure.
| Idioma | Documentação | Pacote | Exemplos |
|---|---|---|---|
| C# | Referência | azure-ai-inference (NuGet) | Exemplos de C# |
| Java | Referência | azure-ai-inference (Maven) | Exemplos de Java |
| JavaScript | Referência | @azure/ai-inference (npm) | Exemplos de JavaScript |
| Python | Referência | azure-ai-inference (PyPi) | Exemplos do Python |
Pacote Projetos de IA do Azure
O pacote Projetos de IA do Azure permite que o cliente acesse um conjunto abrangente de funcionalidades de um projeto de IA do Azure. Esses recursos incluem inferência de modelo de IA do Azure, mas também recursos avançados, como rastreamento, avaliação e armazenamento de dados. O pacote de projetos de IA do Azure faz parte do SDK da Fábrica de IA do Azure e aproveita o pacote de Inferência de IA do Azure e o pacote do Azure OpenAI para executar a inferência dependendo das necessidades dos usuários.
| Idioma | Documentação | Pacote | Exemplos |
|---|---|---|---|
| C# | Referência | Azure.AI.Projects (NuGet) | Exemplos de C# |
| Python | Referência | azure-ai-projects (PyPi) | Exemplos do Python |
Integrações
| Estrutura | Idioma | Documentação | Pacote | Exemplos |
|---|---|---|---|---|
| LangChain | Python | Referência | langchain-azure-ai (PyPi) | Exemplos do Python |
| Llama-Index | Python | Referência |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Exemplos do Python |
| Semantic Kernel | Python | Referência | semantic-kernel[azure] (PyPi) | Exemplos do Python |
| AutoGen | Python | Referência | autogen-ext[azure] (PyPi) | Início Rápido |
Modelos do OpenAI do Azure
Os modelos do OpenAI do Azure podem ser consumidos usando os SDKs e linguagens de programação a seguir.
Para usar esses SDKs, conecte-os ao URI do serviço OpenAI do Azure (normalmente no formulário https://<resource-name>.openai.azure.com).
OpenAI e SDK do Azure OpenAI
| Idioma | Código-fonte | Pacote | Exemplos |
|---|---|---|---|
| C# | Código-fonte | Azure.AI.OpenAI (NuGet) | Exemplos de C# |
| Go | Código-fonte | azopenai (Go) | Exemplos de Go |
| Java | Código-fonte | azure-ai-openai (Maven) | Exemplos de Java |
| JavaScript | Código-fonte | @azure/openai (npm) | Exemplos de JavaScript |
| Python | Código-fonte | openai (PyPi) | Exemplos do Python |
Integrações
| Estrutura | Idioma | Documentação | Pacote | Exemplos |
|---|---|---|---|---|
| LangChain | Python | Referência | langchain-openai (PyPi) | Exemplos do Python |
| Llama-Index | Python | Referência |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Exemplos do Python |
| AutoGen | Python | Referência | autogen-ext[openai] (PyPi) | Início Rápido |
Limitações
Aviso
Não há suporte para os SDKs do Cohere e do Mistral na inferência de modelo de IA do Azure na Fábrica de IA do Azure.
Próximas etapas
- Para conferir quais modelos têm suporte no momento, confira a seção Modelos