Režimy volání funkce

Když model AI obdrží výzvu obsahující seznam funkcí, může zvolit jeden nebo více z nich pro vyvolání výzvy k dokončení výzvy. Když model vybere funkci, musí ji vyvolat sémantické jádro.

Volání subsystému funkce v sémantickém jádru má dva režimy volání funkce: automatické a ruční.

V závislosti na režimu vyvolání provede sémantické jádro volání komplexní funkce nebo volajícímu dává kontrolu nad procesem vyvolání funkce.

Automatické vyvolání funkce

Automatické vyvolání funkce je výchozím režimem subsystému volání funkcí sémantického jádra. Když model AI zvolí jednu nebo více funkcí, sémantické jádro automaticky vyvolá zvolené funkce. Výsledky těchto volání funkce se přidají do historie chatu a automaticky se odešlou do modelu v následných požadavcích. Model pak zdůvodní historii chatu, v případě potřeby zvolí další funkce nebo vygeneruje konečnou odpověď. Tento přístup je plně automatizovaný a nevyžaduje žádný ruční zásah volajícího.

Tento příklad ukazuje, jak použít automatické vyvolání funkce v sémantickém jádru. Model AI rozhodne, které funkce se mají volat, aby se dokončila výzva a sémantické jádro provede zbytek a automaticky je vyvolá.

using Microsoft.SemanticKernel;

IKernelBuilder builder = Kernel.CreateBuilder(); 
builder.AddOpenAIChatCompletion("<model-id>", "<api-key>");
builder.Plugins.AddFromType<WeatherForecastUtils>();
builder.Plugins.AddFromType<DateTimeUtils>(); 

Kernel kernel = builder.Build();

// By default, functions are set to be automatically invoked.  
// If you want to explicitly enable this behavior, you can do so with the following code:  
// PromptExecutionSettings settings = new() { FunctionChoiceBehavior = FunctionChoiceBehavior.Auto(autoInvoke: true) };  
PromptExecutionSettings settings = new() { FunctionChoiceBehavior = FunctionChoiceBehavior.Auto() }; 

await kernel.InvokePromptAsync("Given the current time of day and weather, what is the likely color of the sky in Boston?", new(settings));

Některé modely AI podporují paralelní volání funkcí, kde model vybírá více funkcí pro vyvolání. To může být užitečné v případech, kdy vyvolání vybraných funkcí trvá dlouhou dobu. AI se například může rozhodnout, že současně načte nejnovější zprávy a aktuální čas, a ne pro každou funkci.

Sémantické jádro může tyto funkce vyvolat dvěma různými způsoby:

• Postupně: Funkce jsou vyvolány jeden za druhým. Toto je výchozí chování.
• Souběžně: Funkce jsou vyvolány současně. To lze povolit nastavením FunctionChoiceBehaviorOptions.AllowConcurrentInvocation vlastnosti na true, jak je znázorněno v příkladu níže.

using Microsoft.SemanticKernel;

IKernelBuilder builder = Kernel.CreateBuilder(); 
builder.AddOpenAIChatCompletion("<model-id>", "<api-key>");
builder.Plugins.AddFromType<NewsUtils>();
builder.Plugins.AddFromType<DateTimeUtils>(); 

Kernel kernel = builder.Build();

// Enable concurrent invocation of functions to get the latest news and the current time.
FunctionChoiceBehaviorOptions options = new() { AllowConcurrentInvocation = true };

PromptExecutionSettings settings = new() { FunctionChoiceBehavior = FunctionChoiceBehavior.Auto(options: options) }; 

await kernel.InvokePromptAsync("Good morning! What is the current time and latest news headlines?", new(settings));

Ruční vyvolání funkce

V případech, kdy volající chce mít větší kontrolu nad procesem volání funkce, je možné použít ruční vyvolání funkce.

Pokud je povolené ruční vyvolání funkce, sémantické jádro automaticky nevyvolá funkce vybrané modelem AI. Místo toho vrátí volajícímu seznam vybraných funkcí, který se pak může rozhodnout, které funkce se mají vyvolat, vyvolat je postupně nebo paralelně, zpracovávat výjimky atd. Výsledky vyvolání funkce je potřeba přidat do historie chatu a vrátit se do modelu, což zdůvodňuje a rozhoduje, jestli zvolit další funkce nebo vygenerovat konečnou odpověď.

Následující příklad ukazuje použití ručního vyvolání funkce.

using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.ChatCompletion;

IKernelBuilder builder = Kernel.CreateBuilder(); 
builder.AddOpenAIChatCompletion("<model-id>", "<api-key>");
builder.Plugins.AddFromType<WeatherForecastUtils>();
builder.Plugins.AddFromType<DateTimeUtils>(); 

Kernel kernel = builder.Build();

IChatCompletionService chatCompletionService = kernel.GetRequiredService<IChatCompletionService>();

// Manual function invocation needs to be enabled explicitly by setting autoInvoke to false.
PromptExecutionSettings settings = new() { FunctionChoiceBehavior = Microsoft.SemanticKernel.FunctionChoiceBehavior.Auto(autoInvoke: false) };

ChatHistory chatHistory = [];
chatHistory.AddUserMessage("Given the current time of day and weather, what is the likely color of the sky in Boston?");

while (true)
{
    ChatMessageContent result = await chatCompletionService.GetChatMessageContentAsync(chatHistory, settings, kernel);

    // Check if the AI model has generated a response.
    if (result.Content is not null)
    {
        Console.Write(result.Content);
        // Sample output: "Considering the current weather conditions in Boston with a tornado watch in effect resulting in potential severe thunderstorms,
        // the sky color is likely unusual such as green, yellow, or dark gray. Please stay safe and follow instructions from local authorities."
        break;
    }

    // Adding AI model response containing chosen functions to chat history as it's required by the models to preserve the context.
    chatHistory.Add(result); 

    // Check if the AI model has chosen any function for invocation.
    IEnumerable<FunctionCallContent> functionCalls = FunctionCallContent.GetFunctionCalls(result);
    if (!functionCalls.Any())
    {
        break;
    }

    // Sequentially iterating over each chosen function, invoke it, and add the result to the chat history.
    foreach (FunctionCallContent functionCall in functionCalls)
    {
        try
        {
            // Invoking the function
            FunctionResultContent resultContent = await functionCall.InvokeAsync(kernel);

            // Adding the function result to the chat history
            chatHistory.Add(resultContent.ToChatMessage());
        }
        catch (Exception ex)
        {
            // Adding function exception to the chat history.
            chatHistory.Add(new FunctionResultContent(functionCall, ex).ToChatMessage());
            // or
            //chatHistory.Add(new FunctionResultContent(functionCall, "Error details that the AI model can reason about.").ToChatMessage());
        }
    }
}

Poznámka:

FunctionCallContent a FunctionResultContent třídy se používají k reprezentaci volání funkce modelu AI a výsledky vyvolání funkce sémantického jádra. Obsahují informace o zvolené funkci, jako je ID funkce, název a argumenty a výsledky volání funkce, například ID volání funkce a výsledek.

Již brzy

Další informace budou brzy k dispozici.

Již brzy

Další informace budou brzy k dispozici.