使用语义内核插件配置代理(实验性)
警告
语义内核代理框架是实验性的,仍在开发中,可能会更改。
语义内核中的函数和插件
函数调用是一种功能强大的工具,可让开发人员添加自定义功能并扩展 AI 应用程序的功能。 语义内核插件体系结构提供了一个灵活的框架来支持函数调用。 对于代理,集成插件和函数调用是基于此基础语义内核功能构建的。
配置后,代理将选择何时以及如何调用可用函数,就像在代理框架之外的任何用法中一样。
代理当前在 Java 中不可用。
将插件添加到代理
代理可用的任何插件在其各自的内核实例内进行管理。 此设置使每个 代理 能够根据其特定角色访问不同的功能。
可以在创建代理之前或之后将插件添加到内核。 初始化 插件 的过程遵循用于任何 语义内核 实现的相同模式,允许在管理 AI 功能方面保持一致性和易用性。
注意:对于 聊天完成代理,必须显式启用函数调用模式。 Open AI Assistant 代理始终基于自动函数调用。
// Factory method to product an agent with a specific role.
// Could be incorporated into DI initialization.
ChatCompletionAgent CreateSpecificAgent(Kernel kernel, string credentials)
{
// Clone kernel instance to allow for agent specific plug-in definition
Kernel agentKernel = kernel.Clone();
// Initialize plug-in from type
agentKernel.CreatePluginFromType<StatelessPlugin>();
// Initialize plug-in from object
agentKernel.CreatePluginFromObject(new StatefulPlugin(credentials));
// Create the agent
return
new ChatCompletionAgent()
{
Name = "<agent name>",
Instructions = "<agent instructions>",
Kernel = agentKernel,
Arguments = new KernelArguments(
new OpenAIPromptExecutionSettings()
{
FunctionChoiceBehavior = FunctionChoiceBehavior.Auto()
})
};
}
# Create the instance of the Kernel
kernel = Kernel()
# Define the service ID
service_id = "<service ID>"
# Add the chat completion service to the Kernel
kernel.add_service(AzureChatCompletion(service_id=service_id))
# Get the AI Service settings for the specified service_id
settings = kernel.get_prompt_execution_settings_from_service_id(service_id=service_id)
# Configure the function choice behavior to auto invoke kernel functions
settings.function_choice_behavior = FunctionChoiceBehavior.Auto()
# Add the Plugin to the Kernel
kernel.add_plugin(SamplePlugin(), plugin_name="<plugin name>")
# Create the agent
agent = ChatCompletionAgent(
service_id=service_id,
kernel=kernel,
name=<agent name>,
instructions=<agent instructions>,
execution_settings=settings,
)
代理当前在 Java 中不可用。
将 Functions 添加到代理
插件是配置函数调用的最常见方法。 但是,还可以单独提供各个函数,包括 提示函数。
// Factory method to product an agent with a specific role.
// Could be incorporated into DI initialization.
ChatCompletionAgent CreateSpecificAgent(Kernel kernel)
{
// Clone kernel instance to allow for agent specific plug-in definition
Kernel agentKernel = kernel.Clone();
// Initialize plug-in from a static function
agentKernel.CreateFunctionFromMethod(StatelessPlugin.AStaticMethod);
// Initialize plug-in from a prompt
agentKernel.CreateFunctionFromPrompt("<your prompt instructiosn>");
// Create the agent
return
new ChatCompletionAgent()
{
Name = "<agent name>",
Instructions = "<agent instructions>",
Kernel = agentKernel,
Arguments = new KernelArguments(
new OpenAIPromptExecutionSettings()
{
FunctionChoiceBehavior = FunctionChoiceBehavior.Auto()
})
};
}
# Create the instance of the Kernel
kernel = Kernel()
# Define the service ID
service_id = "<service ID>"
# Add the chat completion service to the Kernel
kernel.add_service(AzureChatCompletion(service_id=service_id))
# Get the AI Service settings for the specified service_id
settings = kernel.get_prompt_execution_settings_from_service_id(service_id=service_id)
# Configure the function choice behavior to auto invoke kernel functions
settings.function_choice_behavior = FunctionChoiceBehavior.Auto()
# Add the Plugin to the Kernel
kernel.add_plugin(SamplePlugin(), plugin_name="<plugin name>")
# Create the agent
agent = ChatCompletionAgent(
service_id=service_id,
kernel=kernel,
name=<agent name>,
instructions=<agent instructions>,
execution_settings=settings,
)
代理当前在 Java 中不可用。
代理函数调用的限制
直接调用聊天完成代理时,支持所有函数选择行为。 但是,使用 Open AI 助手或代理聊天时,目前仅提供自动函数呼叫。
操作说明
有关使用函数调用的端到端示例,请参阅: