Podporované programovací jazyky pro modely v odvozování modelu Azure AI
Modely nasazené v odvozování modelů Azure AI je možné použít s různými sadami SDK a programovacími modely. Následující dokument popisuje, který z nich se má použít:
Všechny modely
Všechny modely nasazené do odvozování modelů Azure AI podporují rozhraní API pro odvozování modelů Azure AI a přidruženou řadu sad SDK.
Pokud chcete tyto sady SDK použít, připojte je k identifikátoru URI odvozování modelu Azure AI (obvykle ve formuláři https://<resource-name>.services.ai.azure.com/models).
Azure AI inference SDK
| Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|
| C# | Odkaz | azure-ai-inference (NuGet) | Příklady jazyka C# |
| Java | Odkaz | azure-ai-inference (Maven) | Příklady v Javě |
| JavaScript | Odkaz | @azure/ai-inference (npm) | Příklady JavaScriptu |
| Python | Odkaz | azure-ai-inference (PyPi) | Příklady Pythonu |
Azure AI Foundry SDK
| Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|
| C# | Odkaz | azure-ai-inference (NuGet) | Příklady jazyka C# |
| Python | Odkaz | azure-ai-inference (PyPi) | Příklady Pythonu |
Integrace
| Framework | Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|---|
| LangChain | Python | Odkaz | langchain-azure-ai (PyPi) | Příklady Pythonu |
| Llama-Index | Python | Odkaz |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Příklady Pythonu |
| Sémantické jádro | Python | Odkaz | sémantic-kernel[azure] (PyPi) | Příklady Pythonu |
Modely Azure OpenAI
Modely Azure OpenAI je možné využívat pomocí následujících sad SDK a programovacích jazyků.
Pokud chcete tyto sady SDK použít, připojte je k identifikátoru URI služby Azure OpenAI (obvykle ve formuláři https://<resource-name>.openai.azure.com).
| Jazyk | Zdrojový kód | Balíček | Příklady |
|---|---|---|---|
| C# | Zdrojový kód | Azure.AI.OpenAI (NuGet) | Příklady jazyka C# |
| Go | Zdrojový kód | azopenai (Go) | Příklady Go |
| Java | Zdrojový kód | azure-ai-openai (Maven) | Příklady v Javě |
| JavaScript | Zdrojový kód | @azure/openai (npm) | Příklady JavaScriptu |
| Python | Zdrojový kód | openai (PyPi) | Příklady Pythonu |
Integrace
| Framework | Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|---|
| LangChain | Python | Odkaz | langchain-openai (PyPi) | Příklady Pythonu |
| Llama-Index | Python | Odkaz |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Příklady Pythonu |
Omezení
Upozorňující
Sada Cohere SDK a Mistral SDK nejsou podporovány v odvozování modelů Azure AI v Azure AI Foundry.
Další kroky
- Informace o modelech, které jsou aktuálně podporované, najdete v části Modely .