OpenAIMockResponsePlugin

Simuleert antwoorden van Azure OpenAI en OpenAI met behulp van een lokaal taalmodel.

Definitie van invoegtoepassingexemplaren

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}

Configuratievoorbeeld

Geen

Configuratie-eigenschappen

Geen

Opdrachtregelopties

Geen

Opmerkingen

De OpenAIMockResponsePlugin invoegtoepassing simuleert reacties van Azure OpenAI en OpenAI met behulp van een lokaal taalmodel. Met deze invoegtoepassing kunt u een taalmodel in uw app emuleren zonder verbinding te maken met de OpenAI- of Azure OpenAI-service en kosten te maken.

De invoegtoepassing maakt gebruik van de configuratie van het Dev Proxy-taalmodel om te communiceren met een lokaal taalmodel. Als u deze invoegtoepassing wilt gebruiken, configureert u Dev Proxy voor het gebruik van een lokaal taalmodel.

Belangrijk

De nauwkeurigheid van de antwoorden die door de invoegtoepassing worden gegenereerd, is afhankelijk van het lokale taalmodel dat u gebruikt. Voordat u uw app in productie implementeert, moet u deze testen met het taalmodel dat u in productie wilt gebruiken.

De OpenAIMockResponsePlugin invoegtoepassing simuleert voltooiingen en chatvoltooiingen. De invoegtoepassing biedt geen ondersteuning voor andere OpenAI API-eindpunten.