OpenAIMockResponsePlugin

Simula respostas do Azure OpenAI e OpenAI usando um modelo de idioma local.

Definição de instância de plug-in

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}

Exemplo de configuração

Nenhuma

Propriedades de configuração

Nenhuma

Opções de linha de comando

Nenhuma

Observações

O OpenAIMockResponsePlugin plug-in simula respostas do Azure OpenAI e OpenAI usando um modelo de idioma local. O uso deste plug-in permite que você emule o uso de um modelo de linguagem em seu aplicativo sem se conectar ao serviço OpenAI ou Azure OpenAI e incorrer em custos.

O plug-in usa a configuração do modelo de idioma Dev Proxy para se comunicar com um modelo de idioma local. Para usar este plugin, configure o Dev Proxy para usar um modelo de idioma local.

Importante

A precisão das respostas geradas pelo plugin depende do modelo de idioma local que você usa. Antes de implantar seu aplicativo na produção, certifique-se de testá-lo com o modelo de linguagem que você planeja usar na produção.

O OpenAIMockResponsePlugin plugin simula finalizações e finalizações de chat. O plugin não suporta outros endpoints da API OpenAI.