Azure AI 模型推斷中模型支援的程式設計語言

部署在 Azure AI 模型推斷中的模型可以搭配不同的 SDK 和程式設計模型使用。 下列文件說明要使用哪一個檔：

所有模型

部署至 Azure AI 模型推斷的所有模型都支援 Azure AI 模型推斷 API 及其相關聯的 SDK 系列。

若要使用這些 SDK，請將它們連線至 Azure AI 模型推斷 URI （通常格式 https://<resource-name>.services.ai.azure.com/models為 ）。

Azure AI 推斷套件

Azure AI 推斷套件可讓您取用部署至 Azure AI 模型推斷服務的所有模型，並輕鬆地變更這些模型。 Azure AI 推斷套件是 Azure AI Foundry SDK 的一部分。

語言	文件集	套件	範例
C#	參考	azure-ai-inference （NuGet）	C# 範例
Java	參考	azure-ai-inference （Maven）	Java 範例
JavaScript	參考	@azure/ai-inference （npm）	JavaScript 範例
Python	參考	azure-ai-inference （PyPi）	Python 範例

Azure AI Projects 套件

Azure AI Projects 套件可讓客戶從 Azure AI 專案存取一組完整的功能。 這些功能包括 Azure AI 模型推斷，但也包括追蹤、評估和數據記憶體等進階功能。 Azure AI Projects 套件是 Azure AI Foundry SDK 的一部分，並利用 Azure AI 推斷套件和 Azure OpenAI 套件，根據使用者需求執行推斷。

語言	文件集	套件	範例
C#	參考	Azure.AI.Projects （NuGet）	C# 範例
Python	參考	azure-ai-projects （PyPi）	Python 範例

整合

架構	語言	文件集	套件	範例
LangChain	Python	參考	langchain-azure-ai （PyPi）	Python 範例
Llama-Index	Python	參考	llama-index-llms-azure-inference （PyPi） llama-index-embeddings-azure-inference （PyPi）	Python 範例
語意核心	Python	參考	semantic-kernel[azure] （PyPi）	Python 範例
AutoGen	Python	參考	autogen-ext[azure] （PyPi）	快速入門

Azure OpenAI 模型

您可以使用下列 SDK 和程式設計語言來取用 Azure OpenAI 模型。

若要使用這些 SDK，請將它們連線到 Azure OpenAI 服務 URI （通常格式 https://<resource-name>.openai.azure.com為 ）。

OpenAI 和 Azure OpenAI SDK

語言	原始程式碼	套件	範例
C#	原始程式碼	Azure.AI.OpenAI （NuGet）	C# 範例
Go	原始程式碼	azopenai （Go）	Go 範例
Java	原始程式碼	azure-ai-openai （Maven）	Java 範例
JavaScript	原始程式碼	@azure/openai （npm）	JavaScript 範例
Python	原始程式碼	openai （PyPi）	Python 範例

整合

架構	語言	文件集	套件	範例
LangChain	Python	參考	langchain-openai （PyPi）	Python 範例
Llama-Index	Python	參考	llama-index-llms-openai （PyPi） llama-index-embeddings-openai （PyPi）	Python 範例
AutoGen	Python	參考	autogen-ext[openai] （PyPi）	快速入門

限制

警告

在 Azure AI Foundry 的 Azure AI 模型推斷中，不支援 Cohere SDK 和 Mistral SDK。

下一步

• 若要查看目前支援哪些模型，請參閱 模型 一節