通过

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

Azure AI 模型推理中模型支持的编程语言

  • 项目

在 Azure AI 模型推理中部署的模型可以用于不同的 SDK 和编程模型。 以下文档描述了要使用哪一种：

所有模型

部署到 Azure AI 模型推理的所有模型都支持 Azure AI 模型推理 API 及其关联的 SDK 系列。

若要使用这些 SDK，请将它们连接到 Azure AI 模型推理 URI（通常采用形式 https://<resource-name>.services.ai.azure.com/models）。

Azure AI 推理 SDK

语言 文档 程序包 示例
C# 引用 azure-ai-inference (NuGet) C# 示例
Java 引用 azure-ai-inference (Maven) Java 示例
JavaScript 引用 @azure/ai-inference (npm) JavaScript 示例
Python 引用 azure-ai-inference (PyPi) Python 示例

Azure AI Foundry SDK

语言 文档 程序包 示例
C# 引用 azure-ai-inference (NuGet) C# 示例
Python 引用 azure-ai-inference (PyPi) Python 示例

集成

框架 语言 文档 程序包 示例
LangChain Python 引用 langchain-azure-ai (PyPi) Python 示例
Llama-Index Python 引用 llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)		 Python 示例
语义内核 Python 引用 semantic-kernel[azure] (PyPi) Python 示例

Azure OpenAI 模型

可以使用以下 SDK 和编程语言使用 Azure OpenAI 模型。

若要使用这些 SDK，请将它们连接到 Azure OpenAI 服务 URI（通常采用形式 https://<resource-name>.openai.azure.com）。

语言 源代码 程序包 示例
C# 源代码 Azure.AI.OpenAI (NuGet) C# 示例
Go 源代码 azopenai (Go) Go 示例
Java 源代码 azure-ai-openai (Maven) Java 示例
JavaScript 源代码 @azure/openai (npm) JavaScript 示例
Python 源代码 openai (PyPi) Python 示例

集成

框架 语言 文档 程序包 示例
LangChain Python 引用 langchain-openai (PyPi) Python 示例
Llama-Index Python 引用 llama-index-llms-openai (PyPi)
llama-index-embeddings-openai (PyPi)		 Python 示例

限制

警告

Azure AI 模型推理不支持 Cohere SDK 和 Mistral SDK。

后续步骤

  • 若要查看当前支持哪些模型，请查看“模型”部分