Podporované programovací jazyky pro modely v odvozování modelu Azure AI
Modely nasazené v odvozování modelů Azure AI je možné použít s různými sadami SDK a programovacími modely. Následující dokument popisuje, který z nich se má použít:
Všechny modely
Všechny modely nasazené do odvozování modelů Azure AI podporují rozhraní API pro odvozování modelů Azure AI a přidruženou řadu sad SDK.
Pokud chcete tyto sady SDK použít, připojte je k identifikátoru URI odvozování modelu Azure AI (obvykle ve formuláři https://<resource-name>.services.ai.azure.com/models).
Balíček odvození Azure AI
Balíček odvozování Azure AI umožňuje využívat všechny modely nasazené do služby odvozování modelů Azure AI a snadno se mezi nimi měnit. Balíček Pro odvozování Azure AI je součástí sady Azure AI Foundry SDK.
| Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|
| C# | Odkaz | azure-ai-inference (NuGet) | Příklady jazyka C# |
| Java | Odkaz | azure-ai-inference (Maven) | Příklady v Javě |
| JavaScript | Odkaz | @azure/ai-inference (npm) | Příklady JavaScriptu |
| Python | Odkaz | azure-ai-inference (PyPi) | Příklady Pythonu |
Balíček Azure AI Projects
Balíček Azure AI Projects umožňuje zákazníkovi získat přístup k komplexní sadě funkcí z projektu Azure AI. Mezi tyto funkce patří odvozování modelů Azure AI, ale také pokročilé funkce, jako je trasování, vyhodnocení a úložiště dat. Balíček Azure AI Projects je součástí sady Azure AI Foundry SDK a využívá balíček Pro odvozování Azure AI a balíček Azure OpenAI k odvozování v závislosti na potřebách uživatelů.
| Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|
| C# | Odkaz | Azure.AI.Projects (NuGet) | Příklady jazyka C# |
| Python | Odkaz | azure-ai-projects (PyPi) | Příklady Pythonu |
Integrace
| Framework | Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|---|
| LangChain | Python | Odkaz | langchain-azure-ai (PyPi) | Příklady Pythonu |
| Llama-Index | Python | Odkaz |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Příklady Pythonu |
| Sémantické jádro | Python | Odkaz | sémantic-kernel[azure] (PyPi) | Příklady Pythonu |
| AutoGen | Python | Odkaz | autogen-ext[azure] (PyPi) | Rychlý start |
Modely Azure OpenAI
Modely Azure OpenAI je možné využívat pomocí následujících sad SDK a programovacích jazyků.
Pokud chcete tyto sady SDK použít, připojte je k identifikátoru URI služby Azure OpenAI (obvykle ve formuláři https://<resource-name>.openai.azure.com).
OpenAI a Azure OpenAI SDK
| Jazyk | Zdrojový kód | Balíček | Příklady |
|---|---|---|---|
| C# | Zdrojový kód | Azure.AI.OpenAI (NuGet) | Příklady jazyka C# |
| Go | Zdrojový kód | azopenai (Go) | Příklady Go |
| Java | Zdrojový kód | azure-ai-openai (Maven) | Příklady v Javě |
| JavaScript | Zdrojový kód | @azure/openai (npm) | Příklady JavaScriptu |
| Python | Zdrojový kód | openai (PyPi) | Příklady Pythonu |
Integrace
| Framework | Jazyk | Dokumentace | Balíček | Příklady |
|---|---|---|---|---|
| LangChain | Python | Odkaz | langchain-openai (PyPi) | Příklady Pythonu |
| Llama-Index | Python | Odkaz |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Příklady Pythonu |
| AutoGen | Python | Odkaz | autogen-ext[openai] (PyPi) | Rychlý start |
Omezení
Upozorňující
Sada Cohere SDK a Mistral SDK nejsou podporovány v odvozování modelů Azure AI v Azure AI Foundry.
Další kroky
- Informace o modelech, které jsou aktuálně podporované, najdete v části Modely .