OpenAIMockResponsePlugin
Simula respuestas de Azure OpenAI y OpenAI mediante un modelo de lenguaje local.
Definición de instancia del complemento
{
"name": "OpenAIMockResponsePlugin",
"enabled": true,
"pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}
Ejemplo de configuración
Ninguno
Propiedades de configuración
Ninguno
Opciones de línea de comandos
Ninguno
Comentarios
El OpenAIMockResponsePlugin complemento simula respuestas de Azure OpenAI y OpenAI mediante un modelo de lenguaje local. El uso de este complemento permite emular el uso de un modelo de lenguaje en la aplicación sin conectarse al servicio OpenAI o Azure OpenAI y incurrir en costos.
El complemento usa la configuración del modelo de lenguaje proxy de desarrollo para comunicarse con un modelo de lenguaje local. Para usar este complemento, configure Dev Proxy para usar un modelo de lenguaje local.
Importante
La precisión de las respuestas generadas por el complemento depende del modelo de lenguaje local que use. Antes de implementar la aplicación en producción, asegúrese de probarla con el modelo de lenguaje que planea usar en producción.
El OpenAIMockResponsePlugin complemento simula finalizaciones y finalizaciones de chat. El complemento no admite otros puntos de conexión de api de OpenAI.
