OpenAIMockResponsePlugin

使用本地语言模型模拟来自 Azure OpenAI 和 OpenAI 的响应。

命令提示符的屏幕截图,其中开发人员代理模拟了对 Azure OpenAI API 的请求的响应。

插件实例定义

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}

配置示例

配置属性

命令行选项

注解

OpenAIMockResponsePlugin 插件使用本地语言模型模拟来自 Azure OpenAI 和 OpenAI 的响应。 使用此插件,可以在应用中模拟使用语言模型,而无需连接到 OpenAI 或 Azure OpenAI 服务并产生费用。

该插件使用开发代理 语言模型配置 来与本地语言模型通信。 若要使用此插件,请将开发代理配置为使用本地语言模型。

重要

插件生成的响应的准确性取决于你使用的本地语言模型。 在将应用部署到生产环境之前,请务必使用计划用于生产的语言模型对其进行测试。

OpenAIMockResponsePlugin 插件模拟完成和聊天完成。 该插件不支持其他 OpenAI API 终结点。