Programmeringsspråk som stöds för modeller i Azure AI-modellinferens
Modeller som distribueras i Azure AI Model Inference kan användas med olika SDK:er och programmeringsmodeller. I följande dokument beskrivs vilken som ska användas:
Alla modeller
Alla modeller som distribueras till Azure AI-modellinferens stöder Azure AI-modellinferens-API :et och dess associerade familj av SDK:er.
Om du vill använda dessa SDK:er ansluter du dem till Azure AI-modellens slutsatsdragnings-URI (vanligtvis i formatet https://<resource-name>.services.ai.azure.com/models).
Azure AI-slutsatsdragnings-SDK
| Språk | Dokumentation | Paket | Exempel |
|---|---|---|---|
| C# | Referens | azure-ai-inference (NuGet) | C#-exempel |
| Java | Referens | azure-ai-inference (Maven) | Java-exempel |
| JavaScript | Referens | @azure/ai-slutsatsdragning (npm) | JavaScript-exempel |
| Python | Referens | azure-ai-inference (PyPi) | Python-exempel |
Azure AI Foundry SDK
| Språk | Dokumentation | Paket | Exempel |
|---|---|---|---|
| C# | Referens | azure-ai-inference (NuGet) | C#-exempel |
| Python | Referens | azure-ai-inference (PyPi) | Python-exempel |
Integreringar
| Ramverk | Språk | Dokumentation | Paket | Exempel |
|---|---|---|---|---|
| LangChain | Python | Referens | langchain-azure-ai (PyPi) | Python-exempel |
| Llama-Index | Python | Referens |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Python-exempel |
| Semantic Kernel | Python | Referens | semantic-kernel[azure] (PyPi) | Python-exempel |
Azure OpenAI-modeller
Azure OpenAI-modeller kan användas med hjälp av följande SDK:er och programmeringsspråk.
Om du vill använda dessa SDK:er ansluter du dem till Azure OpenAI-tjänstens URI (vanligtvis i formuläret https://<resource-name>.openai.azure.com).
| Språk | Källkod | Paket | Exempel |
|---|---|---|---|
| C# | Källkod | Azure.AI.OpenAI (NuGet) | C#-exempel |
| Go | Källkod | azopenai (Go) | Go-exempel |
| Java | Källkod | azure-ai-openai (Maven) | Java-exempel |
| JavaScript | Källkod | @azure/openai (npm) | JavaScript-exempel |
| Python | Källkod | openai (PyPi) | Python-exempel |
Integreringar
| Ramverk | Språk | Dokumentation | Paket | Exempel |
|---|---|---|---|---|
| LangChain | Python | Referens | langchain-openai (PyPi) | Python-exempel |
| Llama-Index | Python | Referens |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Python-exempel |
Begränsningar
Varning
Cohere SDK och Mistral SDK stöds inte i Azure AI Model Inference i Azure AI Foundry.
Nästa steg
- Om du vill se vilka modeller som stöds för närvarande kan du läsa avsnittet Modeller