Výběr modelu a nastavení teploty

Když vytvoříte vlastní akci v nástroji pro tvorbu výzev, panel napravo obsahuje sekci Nastavení. Tato sekce umožňuje nastavit tyto parametry:

• Verze generativního modelu AI
• Teplota

Tento článek zkoumá dopad těchto parametrů.

Verze generativního modelu AI

Rozbalovací nabídka vám umožňuje vybrat si mezi generativními modely AI, které generují odpověď na vaši vlastní výzvu.

Výchozím modelem od listopadu 2024 je GPT 4o Mini (všeobecná dostupnost neboli GA). Je možné použít i výkonnější model GPT 4o (GA). Tyto konkrétní menší verze těchto modelů se mohou změnit.

Když použijete akce výzvy v Power Apps nebo Power Automate, spotřebovávají kredity AI Builder.

Poznámka:

Starší výzvy vytvořené v nástroji pro tvorbu výzev, které spoléhají na tento výchozí model modelu GPT 3.5, byly nebo budou automaticky upgradovány na model GPT 4o Mini. Cloud pro státní správu bude model GPT 3.5 používat až do konce listopadu 2024.

Vyberte model

Vyberte si mezi modely na základě stavu a licenčních pravidel.

Model GPT	Status	Pravidla licencování	Funkce	Regionální dostupnosti
GPT 4o Mini	GA - Výchozí model	Spotřebovává kredity v Power Apps a Power Automate. Další informace: Licenční příručka Power Platform	Školení na datech do prosince 2023. Kontext povolen až po 128 tis. tokenů.	Dostupnost funkce podle oblastí pro výzvy
GPT 4	GA	Spotřebovává kredity v Power Apps a Power Automate. Další informace: Licenční příručka Power Platform	GPT 4o má znalosti do října 2023 a má délku kontextu 128 tisíc tokenů.	Dostupnost funkce podle oblastí pro výzvy

Vyberte si mezi modelem na základě možností a scénářů.

Srovnání GPT-4o Mini a GPT-4o

Faktory	GPT-4o Mini	GPT-4o
Náklady	Nižší, nákladově efektivnější	Vyšší, prémiové ceny
Výkon	Hodí se pro většinu úkolů	Vynikající pro složité úkoly
Rychlost	Rychlejší zpracování	Může být pomalejší kvůli složitosti
Případy použití	Sumarizace, informační úkoly	Komplexní analýza dat, argumentace a tvorba obsahu

Narativ rozhodnutí

Pokud potřebujete nákladově efektivní řešení pro středně složité úlohy, máte omezené výpočetní zdroje nebo požadujete rychlejší zpracování, zvolte GPT-4o Mini. Je ideální pro projekty s omezeným rozpočtem a aplikacemi, jako je zákaznická podpora nebo efektivní analýza kódu.

Pokud máte co do činění s vysoce složitými multimodálními úkoly, které vyžadují vynikající výkon a podrobnou analýzu, zvolte GPT-4o. Je to lepší volba pro velké projekty, kde je rozhodující přesnost a pokročilé funkce. Dalším scénářem, kdy je to lepší volba, je, když máte rozpočet a výpočetní zdroje na jeho podporu. GPT-4o je také vhodnější pro dlouhodobé projekty, jejichž složitost může časem narůstat.

Použití výzev AI v kontextu Microsoft Copilot Studio

Výzvy AI nespotřebovávají kredity AI Builder, když jsou v kontextu Copilot Studio, ale spotřebovávají zprávy, když jsou postaveny na modelu GPT GA.

Více o spotřebě zpráv se dozvíte v Průvodci licencováním Power Platform.

Teplota

Posuvník umožňuje vybrat teplotu generativního modelu AI. Pohybuje se mezi 0 a 1 a vede generativní model umělé inteligence k tomu, kolik kreativity (1) oproti deterministické odpovědi (0) by měl poskytnout.

Teplota je parametr, který řídí náhodnost výstupu generovaného modelem AI. Nižší teplota má za následek předvídatelnější a konzervativnější výstupy. Pro srovnání, vyšší teplota umožňuje větší kreativitu a rozmanitost odpovědí. Je to způsob, jak vyladit rovnováhu mezi náhodností a determinismem ve výstupu modelu.

Výchozí teplota je 0, stejně jako v dříve vytvořených výzvách.

Teplota	Funkce	Použití v
0	Předvídatelnější a konzervativnější výstupy. Odpovědi jsou konzistentnější.	Výzvy, které vyžadují vysokou přesnost a menší variabilitu.
01	Více kreativity a rozmanitosti v odpovědích. Různorodější a někdy inovativnější odpovědi.	Výzvy, které vytvářejí nový předem připravený obsah

I když nastavení teploty může ovlivnit výkon modelu, nezaručuje konkrétní výsledek. Odezvy AI jsou ze své podstaty pravděpodobné a mohou se lišit i při stejném nastavení teploty.