OpenAIMockResponsePlugin
Simuluje odpovědi z Azure OpenAI a OpenAI pomocí místního jazykového modelu.
Definice instance modulu plug-in
{
"name": "OpenAIMockResponsePlugin",
"enabled": true,
"pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}
Příklad konfigurace
Nic
Vlastnosti konfigurace
Nic
Možnosti příkazového řádku
Nic
Poznámky
Modul plug-in OpenAIMockResponsePlugin
simuluje odpovědi z Azure OpenAI a OpenAI pomocí místního jazykového modelu. Pomocí tohoto modulu plug-in můžete emulovat pomocí jazykového modelu v aplikaci, aniž byste se připojili ke službě OpenAI nebo Azure OpenAI a účtují se náklady.
Modul plug-in používá konfiguraci jazykového modelu dev Proxy ke komunikaci s místním jazykovým modelem. Pokud chcete tento modul plug-in použít, nakonfigurujte Dev Proxy tak, aby používal místní jazykový model.
Důležité
Přesnost odpovědí generovaných modulem plug-in závisí na místním jazykovém modelu, který používáte. Před nasazením aplikace do produkčního prostředí ji nezapomeňte otestovat pomocí jazykového modelu, který chcete použít v produkčním prostředí.
Modul OpenAIMockResponsePlugin
plug-in simuluje dokončení a dokončení chatu. Modul plug-in nepodporuje jiné koncové body rozhraní OpenAI API.