OpenAIMockResponsePlugin

Simula respostas do Azure OpenAI e OpenAI usando um modelo de idioma local.

Definição de instância do plug-in

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}

Exemplo de configuração

Nenhum

Propriedades de configuração

Nenhum

Opções de linha de comando

Nenhum

Comentários

O OpenAIMockResponsePlugin plug-in simula respostas do Azure OpenAI e do OpenAI usando um modelo de idioma local. O uso desse plug-in permite que você emule usando um modelo de linguagem em seu aplicativo sem se conectar ao serviço OpenAI ou Azure OpenAI e incorrer em custos.

O plug-in usa a configuração do modelo de linguagem Dev Proxy para se comunicar com um modelo de idioma local. Para usar esse plug-in, configure o Dev Proxy para usar um modelo de idioma local.

Importante

A precisão das respostas geradas pelo plug-in depende do modelo de idioma local que você usa. Antes de implantar seu aplicativo em produção, certifique-se de testá-lo com o modelo de linguagem que você planeja usar na produção.

O OpenAIMockResponsePlugin plug-in simula conclusões e conclusões de bate-papo. O plug-in não oferece suporte a outros endpoints da API OpenAI.