OpenAIMockResponsePlugin

Simulerar svar från Azure OpenAI och OpenAI med hjälp av en lokal språkmodell.

Definition av plugin-instans

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}

Konfigurationsexempel

Ingen

Konfigurationsegenskaper

Ingen

Kommandoradsalternativ

Ingen

Kommentarer

Plugin-programmet OpenAIMockResponsePlugin simulerar svar från Azure OpenAI och OpenAI med hjälp av en lokal språkmodell. Med det här plugin-programmet kan du emulera med hjälp av en språkmodell i din app utan att ansluta till OpenAI- eller Azure OpenAI-tjänsten och medföra kostnader.

Plugin-programmet använder språkmodellkonfigurationen dev proxy för att kommunicera med en lokal språkmodell. Om du vill använda det här plugin-programmet konfigurerar du Dev Proxy för att använda en lokal språkmodell.

Viktigt!

Noggrannheten för svaren som genereras av plugin-programmet beror på vilken lokal språkmodell du använder. Innan du distribuerar din app till produktion måste du testa den med den språkmodell som du planerar att använda i produktion.

Plugin-programmet OpenAIMockResponsePlugin simulerar slutföranden och chattavslut. Plugin-programmet stöder inte andra OpenAI API-slutpunkter.