你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

Azure AI 模型推理中模型支持的编程语言

在 Azure AI 模型推理中部署的模型可以用于不同的 SDK 和编程模型。 以下文档描述了要使用哪一种：

所有模型

部署到 Azure AI 模型推理的所有模型都支持 Azure AI 模型推理 API 及其关联的 SDK 系列。

若要使用这些 SDK，请将它们连接到 Azure AI 模型推理 URI（通常采用形式 https://<resource-name>.services.ai.azure.com/models）。

Azure AI 推理包

Azure AI 推理包允许使用部署到 Azure AI 模型推理服务的所有模型，并轻松更改这些模型。 Azure AI 推理包是 Azure AI Foundry SDK 的一部分。

语言	文档	程序包	示例
C#	引用	azure-ai-inference (NuGet)	C# 示例
Java	引用	azure-ai-inference (Maven)	Java 示例
JavaScript	引用	@azure/ai-inference (npm)	JavaScript 示例
Python	引用	azure-ai-inference (PyPi)	Python 示例

Azure AI 项目包

Azure AI 项目包允许客户从 Azure AI 项目访问一组全面的功能。 这些功能包括 Azure AI 模型推理，但也包括跟踪、评估和数据存储等高级功能。 Azure AI Projects 包是 Azure AI Foundry SDK 的一部分，并利用 Azure AI 推理包和 Azure OpenAI 包根据用户需求执行推理。

语言	文档	程序包	示例
C#	引用	Azure.AI.Projects (NuGet)	C# 示例
Python	引用	azure-ai-projects (PyPi)	Python 示例

集成

框架	语言	文档	程序包	示例
LangChain	Python	引用	langchain-azure-ai (PyPi)	Python 示例
Llama-Index	Python	引用	llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi)	Python 示例
语义内核	Python	引用	semantic-kernel[azure] (PyPi)	Python 示例
AutoGen	Python	引用	autogen-ext[azure] (PyPi)	快速入门

Azure OpenAI 模型

可以使用以下 SDK 和编程语言使用 Azure OpenAI 模型。

若要使用这些 SDK，请将它们连接到 Azure OpenAI 服务 URI（通常采用形式 https://<resource-name>.openai.azure.com）。

OpenAI 和 Azure OpenAI SDK

语言	源代码	程序包	示例
C#	源代码	Azure.AI.OpenAI (NuGet)	C# 示例
Go	源代码	azopenai (Go)	Go 示例
Java	源代码	azure-ai-openai (Maven)	Java 示例
JavaScript	源代码	@azure/openai (npm)	JavaScript 示例
Python	源代码	openai (PyPi)	Python 示例

集成

框架	语言	文档	程序包	示例
LangChain	Python	引用	langchain-openai (PyPi)	Python 示例
Llama-Index	Python	引用	llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi)	Python 示例
AutoGen	Python	引用	autogen-ext[openai] (PyPi)	快速入门

限制

警告

Azure AI 模型推理不支持 Cohere SDK 和 Mistral SDK。

后续步骤

• 若要查看当前支持哪些模型，请查看“模型”部分