Поделиться через


Краткое руководство. Создание нового агента

Служба агента искусственного интеллекта Azure позволяет создавать агенты ИИ, адаптированные к вашим потребностям, с помощью пользовательских инструкций и дополнены расширенными инструментами, такими как интерпретатор кода и пользовательские функции.

| Пакет исходного кода | библиотеки примеров | справочной документации | (NuGet) |

Необходимые компоненты

Настройка проекта Центра ИИ Azure и агента

В следующем разделе показано, как настроить необходимые ресурсы для начала работы со службой агента ИИ Azure:

  1. Создание Центра искусственного интеллекта Azure для настройки среды приложения и ресурсов Azure.

  2. Создание проекта ИИ Azure в центре создает конечную точку для вызова приложения и настраивает службы приложений для доступа к ресурсам в клиенте.

  3. Подключение ресурса Azure OpenAI или ресурса Служб искусственного интеллекта Azure

Выбор базовой или стандартной настройки агента

Базовая настройка. Агенты используют многотенантные ресурсы поиска и хранилища, полностью управляемые корпорацией Майкрософт. У вас нет видимости или контроля над этими базовыми ресурсами Azure.

Стандартная настройка. Агенты используют ресурсы поиска и хранилища с одним клиентом. С помощью этой настройки вы можете полностью контролировать и просматривать эти ресурсы, но вы несете затраты на основе использования.

Описание и autodeploy Схема (щелкните, чтобы увеличить масштаб)
Разверните базовую настройку агента, которая использует управляемое удостоверение для проверки подлинности. Ресурсы для центра ИИ, проекта ИИ, учетной записи хранения и служб ИИ создаются для вас.

Учетная запись служб ИИ подключена к проекту и концентратору, а модель gpt-4o-mini развертывается в регионе eastus. По умолчанию используется управляемое корпорацией Майкрософт хранилище ключей.

Развернуть в Azure
Схема архитектуры для базовой настройки агента.
Разверните стандартную настройку агента, которая использует управляемое удостоверение для проверки подлинности.

Ресурсы для центра ИИ, проекта ИИ, хранилища ключей, учетной записи хранения, служб ИИ и поиска ИИ создаются для вас.

Службы ИИ, поиск ИИ, хранилище ключей и учетная запись хранения подключены к проекту и центру. Модель gpt-4o-mini развертывается в регионе eastus.

Развернуть в Azure
Схема архитектуры для стандартной настройки агента.

[Необязательно] Выбор модели в шаблоне autodeploy

Модель, используемую агентом, можно настроить, изменив параметры модели в шаблоне autodeploy. Чтобы развернуть другую модель, необходимо обновить по крайней мере параметры modelName и modelVersion параметры.

По умолчанию шаблон развертывания настраивается со следующими значениями:

Параметр модели Значение по умолчанию
modelName gpt-4o-mini
modelFormat OpenAI (для Azure OpenAI)
modelVersion 2024-07-18
modelSkuName GlobalStandard
modelLocation eastus

Внимание

Не изменяйте параметр modelFormat.

Шаблоны поддерживают только развертывание моделей Azure OpenAI. Сведения о том, какие модели Azure OpenAI поддерживаются в документации по модели службы агента ИИ Azure.

[Необязательно] Использование собственных ресурсов во время установки агента

Примечание.

Если вы используете существующие службы ИИ или ресурс Azure OpenAI, модель не будет развернута. После завершения установки агента можно развернуть модель в ресурсе.

Используйте существующие службы ИИ, Azure OpenAI, поиск ИИ и (или) Хранилище BLOB-объектов Azure ресурс, предоставив полный идентификатор ресурса arm в файле параметров:

  • aiServiceAccountResourceId
  • aiSearchServiceResourceId
  • aiStorageAccountResourceId

Если вы хотите использовать существующий ресурс Azure OpenAI, необходимо обновить aiServiceAccountResourceIdaiServiceKind параметры в файле параметров. Параметр aiServiceKind должен иметь значение AzureOpenAI.

Дополнительные сведения см. в статье об использовании собственных ресурсов.

Настройка и запуск агента

Компонент Description
Агент Настраиваемый ИИ, использующий модели ИИ в сочетании с инструментами.
Средство Средства помогают расширить способность агента надежно и точно реагировать во время беседы. Например, подключение к определяемым пользователем база знаний на основе модели или включение веб-поиска для предоставления текущей информации.
Дискуссия Сеанс беседы между агентом и пользователем. Потоки хранят сообщения и автоматически обрабатывают усечение, чтобы поместить содержимое в контекст модели.
Сообщение Сообщение, созданное агентом или пользователем. Сообщения могут включать текст, изображения и другие файлы. Сообщения хранятся в виде списка в потоке.
Выполнить Активация агента для запуска на основе содержимого Thread. Агент использует свою конфигурацию и сообщения потока для выполнения задач путем вызова моделей и инструментов. В рамках выполнения агент добавляет сообщения в поток.
Шаг выполнения Подробный список шагов, выполняемых агентом в рамках запуска. Агент может вызывать средства или создавать сообщения во время его выполнения. Изучение шагов выполнения позволяет понять, как агент получает результаты.

Установите пакет .NET в проект. Например, если вы используете интерфейс командной строки .NET, выполните следующую команду.

dotnet add package Azure.AI.Projects
dotnet add package Azure.Identity

Затем, чтобы пройти проверку подлинности запросов API и запустить программу, используйте команду az login для входа в подписку Azure.

az login

Используйте следующий код для создания и запуска агента. Чтобы запустить этот код, необходимо создать строка подключения с помощью сведений из проекта. Эта строка находится в формате:

<HostName>;<AzureSubscriptionId>;<ResourceGroup>;<ProjectName>

Совет

Вы также можете найти строка подключения в обзоре проекта на портале Azure AI Foundry в разделе "Сведения о>проекте" строка подключения. Снимок экрана: строка подключения на портале Azure AI Foundry.

HostName можно найти, перейдя к вашему discovery_url и удалив начальный https:// и конечный /discovery. Чтобы найти, discovery_urlвыполните следующую команду CLI:

az ml workspace show -n {project_name} --resource-group {resource_group_name} --query discovery_url

Например, строка подключения может выглядеть примерно так:

eastus.api.azureml.ms;12345678-abcd-1234-9fc6-62780b3d3e05;my-resource-group;my-project-name

Задайте этот строка подключения в качестве переменной среды с именемPROJECT_CONNECTION_STRING.

// Copyright (c) Microsoft Corporation. All rights reserved.
// Licensed under the MIT License.

#nullable disable

using Azure.Identity;

namespace Azure.AI.Projects.Tests;

public class Sample_Agent
{
    static async Task Main()
    {
        var connectionString = Environment.GetEnvironmentVariable("AZURE_AI_CONNECTION_STRING");

        AgentsClient client = new AgentsClient(connectionString, new DefaultAzureCredential());

        // Step 1: Create an agent
        Response<Agent> agentResponse = await client.CreateAgentAsync(
            model: "gpt-4o-mini",
            name: "My Agent",
            instructions: "You are a helpful agent.",
            tools: new List<ToolDefinition> { new CodeInterpreterToolDefinition() });
        Agent agent = agentResponse.Value;

        // Intermission: agent should now be listed

        Response<PageableList<Agent>> agentListResponse = await client.GetAgentsAsync();

        //// Step 2: Create a thread
        Response<AgentThread> threadResponse = await client.CreateThreadAsync();
        AgentThread thread = threadResponse.Value;

        // Step 3: Add a message to a thread
        Response<ThreadMessage> messageResponse = await client.CreateMessageAsync(
            thread.Id,
            MessageRole.User,
            "I need to solve the equation `3x + 11 = 14`. Can you help me?");
        ThreadMessage message = messageResponse.Value;

        // Intermission: message is now correlated with thread
        // Intermission: listing messages will retrieve the message just added

        Response<PageableList<ThreadMessage>> messagesListResponse = await client.GetMessagesAsync(thread.Id);
        //Assert.That(messagesListResponse.Value.Data[0].Id == message.Id);

        // Step 4: Run the agent
        Response<ThreadRun> runResponse = await client.CreateRunAsync(
            thread.Id,
            agent.Id,
            additionalInstructions: "");
        ThreadRun run = runResponse.Value;

        do
        {
            await Task.Delay(TimeSpan.FromMilliseconds(500));
            runResponse = await client.GetRunAsync(thread.Id, runResponse.Value.Id);
        }
        while (runResponse.Value.Status == RunStatus.Queued
            || runResponse.Value.Status == RunStatus.InProgress);

        Response<PageableList<ThreadMessage>> afterRunMessagesResponse
            = await client.GetMessagesAsync(thread.Id);
        IReadOnlyList<ThreadMessage> messages = afterRunMessagesResponse.Value.Data;

        // Note: messages iterate from newest to oldest, with the messages[0] being the most recent
        foreach (ThreadMessage threadMessage in messages)
        {
            Console.Write($"{threadMessage.CreatedAt:yyyy-MM-dd HH:mm:ss} - {threadMessage.Role,10}: ");
            foreach (MessageContent contentItem in threadMessage.ContentItems)
            {
                if (contentItem is MessageTextContent textItem)
                {
                    Console.Write(textItem.Text);
                }
                else if (contentItem is MessageImageFileContent imageFileItem)
                {
                    Console.Write($"<image from ID: {imageFileItem.FileId}");
                }
                Console.WriteLine();
            }
        }
    }
}

| Пакет исходного кода | библиотеки примеров | справочной документации | (PyPi) |

Необходимые компоненты

Настройка проекта Центра ИИ Azure и агента

В следующем разделе показано, как настроить необходимые ресурсы для начала работы со службой агента ИИ Azure:

  1. Создание Центра искусственного интеллекта Azure для настройки среды приложения и ресурсов Azure.

  2. Создание проекта ИИ Azure в центре создает конечную точку для вызова приложения и настраивает службы приложений для доступа к ресурсам в клиенте.

  3. Подключение ресурса Azure OpenAI или ресурса Служб искусственного интеллекта Azure

Выбор базовой или стандартной настройки агента

Базовая настройка. Агенты используют многотенантные ресурсы поиска и хранилища, полностью управляемые корпорацией Майкрософт. У вас нет видимости или контроля над этими базовыми ресурсами Azure.

Стандартная настройка. Агенты используют ресурсы поиска и хранилища с одним клиентом. С помощью этой настройки вы можете полностью контролировать и просматривать эти ресурсы, но вы несете затраты на основе использования.

Описание и autodeploy Схема (щелкните, чтобы увеличить масштаб)
Разверните базовую настройку агента, которая использует управляемое удостоверение для проверки подлинности. Ресурсы для центра ИИ, проекта ИИ, учетной записи хранения и служб ИИ создаются для вас.

Учетная запись служб ИИ подключена к проекту и концентратору, а модель gpt-4o-mini развертывается в регионе eastus. По умолчанию используется управляемое корпорацией Майкрософт хранилище ключей.

Развернуть в Azure
Схема архитектуры для базовой настройки агента.
Разверните стандартную настройку агента, которая использует управляемое удостоверение для проверки подлинности.

Ресурсы для центра ИИ, проекта ИИ, хранилища ключей, учетной записи хранения, служб ИИ и поиска ИИ создаются для вас.

Службы ИИ, поиск ИИ, хранилище ключей и учетная запись хранения подключены к проекту и центру. Модель gpt-4o-mini развертывается в регионе eastus.

Развернуть в Azure
Схема архитектуры для стандартной настройки агента.

[Необязательно] Выбор модели в шаблоне autodeploy

Модель, используемую агентом, можно настроить, изменив параметры модели в шаблоне autodeploy. Чтобы развернуть другую модель, необходимо обновить по крайней мере параметры modelName и modelVersion параметры.

По умолчанию шаблон развертывания настраивается со следующими значениями:

Параметр модели Значение по умолчанию
modelName gpt-4o-mini
modelFormat OpenAI (для Azure OpenAI)
modelVersion 2024-07-18
modelSkuName GlobalStandard
modelLocation eastus

Внимание

Не изменяйте параметр modelFormat.

Шаблоны поддерживают только развертывание моделей Azure OpenAI. Сведения о том, какие модели Azure OpenAI поддерживаются в документации по модели службы агента ИИ Azure.

[Необязательно] Использование собственных ресурсов во время установки агента

Примечание.

Если вы используете существующие службы ИИ или ресурс Azure OpenAI, модель не будет развернута. После завершения установки агента можно развернуть модель в ресурсе.

Используйте существующие службы ИИ, Azure OpenAI, поиск ИИ и (или) Хранилище BLOB-объектов Azure ресурс, предоставив полный идентификатор ресурса arm в файле параметров:

  • aiServiceAccountResourceId
  • aiSearchServiceResourceId
  • aiStorageAccountResourceId

Если вы хотите использовать существующий ресурс Azure OpenAI, необходимо обновить aiServiceAccountResourceIdaiServiceKind параметры в файле параметров. Параметр aiServiceKind должен иметь значение AzureOpenAI.

Дополнительные сведения см. в статье об использовании собственных ресурсов.

Настройка и запуск агента

Компонент Description
Агент Настраиваемый ИИ, использующий модели ИИ в сочетании с инструментами.
Средство Средства помогают расширить способность агента надежно и точно реагировать во время беседы. Например, подключение к определяемым пользователем база знаний на основе модели или включение веб-поиска для предоставления текущей информации.
Дискуссия Сеанс беседы между агентом и пользователем. Потоки хранят сообщения и автоматически обрабатывают усечение, чтобы поместить содержимое в контекст модели.
Сообщение Сообщение, созданное агентом или пользователем. Сообщения могут включать текст, изображения и другие файлы. Сообщения хранятся в виде списка в потоке.
Выполнить Активация агента для запуска на основе содержимого Thread. Агент использует свою конфигурацию и сообщения потока для выполнения задач путем вызова моделей и инструментов. В рамках выполнения агент добавляет сообщения в поток.
Шаг выполнения Подробный список шагов, выполняемых агентом в рамках запуска. Агент может вызывать средства или создавать сообщения во время его выполнения. Изучение шагов выполнения позволяет понять, как агент получает результаты.

Выполните следующие команды, чтобы установить пакеты Python.

pip install azure-ai-projects
pip install azure-identity

Затем, чтобы пройти проверку подлинности запросов API и запустить программу, используйте команду az login для входа в подписку Azure.

az login

Используйте следующий код для создания и запуска агента. Чтобы запустить этот код, необходимо создать строка подключения с помощью сведений из проекта. Эта строка находится в формате:

<HostName>;<AzureSubscriptionId>;<ResourceGroup>;<ProjectName>

Совет

Вы также можете найти строка подключения в обзоре проекта на портале Azure AI Foundry в разделе "Сведения о>проекте" строка подключения. Снимок экрана: строка подключения на портале Azure AI Foundry.

HostName можно найти, перейдя к вашему discovery_url и удалив начальный https:// и конечный /discovery. Чтобы найти, discovery_urlвыполните следующую команду CLI:

az ml workspace show -n {project_name} --resource-group {resource_group_name} --query discovery_url

Например, строка подключения может выглядеть примерно так:

eastus.api.azureml.ms;12345678-abcd-1234-9fc6-62780b3d3e05;my-resource-group;my-project-name

Задайте этот строка подключения в качестве переменной среды с именемPROJECT_CONNECTION_STRING.

import os
from azure.ai.projects import AIProjectClient
from azure.ai.projects.models import CodeInterpreterTool
from azure.identity import DefaultAzureCredential
from typing import Any
from pathlib import Path

# Create an Azure AI Client from a connection string, copied from your Azure AI Foundry project.
# At the moment, it should be in the format "<HostName>;<AzureSubscriptionId>;<ResourceGroup>;<ProjectName>"
# HostName can be found by navigating to your discovery_url and removing the leading "https://" and trailing "/discovery"
# To find your discovery_url, run the CLI command: az ml workspace show -n {project_name} --resource-group {resource_group_name} --query discovery_url
# Project Connection example: eastus.api.azureml.ms;12345678-abcd-1234-9fc6-62780b3d3e05;my-resource-group;my-project-name
# Customer needs to login to Azure subscription via Azure CLI and set the environment variables

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(), conn_str=os.environ["PROJECT_CONNECTION_STRING"]
)

with project_client:
    # Create an instance of the CodeInterpreterTool
    code_interpreter = CodeInterpreterTool()

    # The CodeInterpreterTool needs to be included in creation of the agent
    agent = project_client.agents.create_agent(
        model="gpt-4o-mini",
        name="my-agent",
        instructions="You are helpful agent",
        tools=code_interpreter.definitions,
        tool_resources=code_interpreter.resources,
    )
    print(f"Created agent, agent ID: {agent.id}")

    # Create a thread
    thread = project_client.agents.create_thread()
    print(f"Created thread, thread ID: {thread.id}")

    # Create a message
    message = project_client.agents.create_message(
        thread_id=thread.id,
        role="user",
        content="Could you please create a bar chart for the operating profit using the following data and provide the file to me? Company A: $1.2 million, Company B: $2.5 million, Company C: $3.0 million, Company D: $1.8 million",
    )
    print(f"Created message, message ID: {message.id}")

    # Run the agent
    run = project_client.agents.create_and_process_run(thread_id=thread.id, assistant_id=agent.id)
    print(f"Run finished with status: {run.status}")

    if run.status == "failed":
        # Check if you got "Rate limit is exceeded.", then you want to get more quota
        print(f"Run failed: {run.last_error}")

    # Get messages from the thread
    messages = project_client.agents.list_messages(thread_id=thread.id)
    print(f"Messages: {messages}")

    # Get the last message from the sender
    last_msg = messages.get_last_text_message_by_role("assistant")
    if last_msg:
        print(f"Last Message: {last_msg.text.value}")

    # Generate an image file for the bar chart
    for image_content in messages.image_contents:
        print(f"Image File ID: {image_content.image_file.file_id}")
        file_name = f"{image_content.image_file.file_id}_image_file.png"
        project_client.agents.save_file(file_id=image_content.image_file.file_id, file_name=file_name)
        print(f"Saved image file to: {Path.cwd() / file_name}")

    # Print the file path(s) from the messages
    for file_path_annotation in messages.file_path_annotations:
        print(f"File Paths:")
        print(f"Type: {file_path_annotation.type}")
        print(f"Text: {file_path_annotation.text}")
        print(f"File ID: {file_path_annotation.file_path.file_id}")
        print(f"Start Index: {file_path_annotation.start_index}")
        print(f"End Index: {file_path_annotation.end_index}")
        project_client.agents.save_file(file_id=file_path_annotation.file_path.file_id, file_name=Path(file_path_annotation.text).name)

    # Delete the agent once done
    project_client.agents.delete_agent(agent.id)
    print("Deleted agent")

| Пакет исходного кода | библиотеки справочной документации | (PyPi) |

Необходимые компоненты

Настройка проекта Центра ИИ Azure и агента

В следующем разделе показано, как настроить необходимые ресурсы для начала работы со службой агента ИИ Azure:

  1. Создание Центра искусственного интеллекта Azure для настройки среды приложения и ресурсов Azure.

  2. Создание проекта ИИ Azure в центре создает конечную точку для вызова приложения и настраивает службы приложений для доступа к ресурсам в клиенте.

  3. Подключение ресурса Azure OpenAI или ресурса Служб искусственного интеллекта Azure

Выбор базовой или стандартной настройки агента

Базовая настройка. Агенты используют многотенантные ресурсы поиска и хранилища, полностью управляемые корпорацией Майкрософт. У вас нет видимости или контроля над этими базовыми ресурсами Azure.

Стандартная настройка. Агенты используют ресурсы поиска и хранилища с одним клиентом. С помощью этой настройки вы можете полностью контролировать и просматривать эти ресурсы, но вы несете затраты на основе использования.

Описание и autodeploy Схема (щелкните, чтобы увеличить масштаб)
Разверните базовую настройку агента, которая использует управляемое удостоверение для проверки подлинности. Ресурсы для центра ИИ, проекта ИИ, учетной записи хранения и служб ИИ создаются для вас.

Учетная запись служб ИИ подключена к проекту и концентратору, а модель gpt-4o-mini развертывается в регионе eastus. По умолчанию используется управляемое корпорацией Майкрософт хранилище ключей.

Развернуть в Azure
Схема архитектуры для базовой настройки агента.
Разверните стандартную настройку агента, которая использует управляемое удостоверение для проверки подлинности.

Ресурсы для центра ИИ, проекта ИИ, хранилища ключей, учетной записи хранения, служб ИИ и поиска ИИ создаются для вас.

Службы ИИ, поиск ИИ, хранилище ключей и учетная запись хранения подключены к проекту и центру. Модель gpt-4o-mini развертывается в регионе eastus.

Развернуть в Azure
Схема архитектуры для стандартной настройки агента.

[Необязательно] Выбор модели в шаблоне autodeploy

Модель, используемую агентом, можно настроить, изменив параметры модели в шаблоне autodeploy. Чтобы развернуть другую модель, необходимо обновить по крайней мере параметры modelName и modelVersion параметры.

По умолчанию шаблон развертывания настраивается со следующими значениями:

Параметр модели Значение по умолчанию
modelName gpt-4o-mini
modelFormat OpenAI (для Azure OpenAI)
modelVersion 2024-07-18
modelSkuName GlobalStandard
modelLocation eastus

Внимание

Не изменяйте параметр modelFormat.

Шаблоны поддерживают только развертывание моделей Azure OpenAI. Сведения о том, какие модели Azure OpenAI поддерживаются в документации по модели службы агента ИИ Azure.

[Необязательно] Использование собственных ресурсов во время установки агента

Примечание.

Если вы используете существующие службы ИИ или ресурс Azure OpenAI, модель не будет развернута. После завершения установки агента можно развернуть модель в ресурсе.

Используйте существующие службы ИИ, Azure OpenAI, поиск ИИ и (или) Хранилище BLOB-объектов Azure ресурс, предоставив полный идентификатор ресурса arm в файле параметров:

  • aiServiceAccountResourceId
  • aiSearchServiceResourceId
  • aiStorageAccountResourceId

Если вы хотите использовать существующий ресурс Azure OpenAI, необходимо обновить aiServiceAccountResourceIdaiServiceKind параметры в файле параметров. Параметр aiServiceKind должен иметь значение AzureOpenAI.

Дополнительные сведения см. в статье об использовании собственных ресурсов.

Настройка и запуск агента

Компонент Description
Агент Настраиваемый ИИ, использующий модели ИИ в сочетании с инструментами.
Средство Средства помогают расширить способность агента надежно и точно реагировать во время беседы. Например, подключение к определяемым пользователем база знаний на основе модели или включение веб-поиска для предоставления текущей информации.
Дискуссия Сеанс беседы между агентом и пользователем. Потоки хранят сообщения и автоматически обрабатывают усечение, чтобы поместить содержимое в контекст модели.
Сообщение Сообщение, созданное агентом или пользователем. Сообщения могут включать текст, изображения и другие файлы. Сообщения хранятся в виде списка в потоке.
Выполнить Активация агента для запуска на основе содержимого Thread. Агент использует свою конфигурацию и сообщения потока для выполнения задач путем вызова моделей и инструментов. В рамках выполнения агент добавляет сообщения в поток.
Шаг выполнения Подробный список шагов, выполняемых агентом в рамках запуска. Агент может вызывать средства или создавать сообщения во время его выполнения. Изучение шагов выполнения позволяет понять, как агент получает результаты.

Выполните следующие команды, чтобы установить пакеты Python.

pip install azure-ai-projects
pip install azure-identity
pip install openai

Затем, чтобы пройти проверку подлинности запросов API и запустить программу, используйте команду az login для входа в подписку Azure.

az login

Используйте следующий код для создания и запуска агента. Чтобы запустить этот код, необходимо создать строка подключения с помощью сведений из проекта. Эта строка находится в формате:

<HostName>;<AzureSubscriptionId>;<ResourceGroup>;<ProjectName>

Совет

Вы также можете найти строка подключения в обзоре проекта на портале Azure AI Foundry в разделе "Сведения о>проекте" строка подключения. Снимок экрана: строка подключения на портале Azure AI Foundry.

HostName можно найти, перейдя к вашему discovery_url и удалив начальный https:// и конечный /discovery. Чтобы найти, discovery_urlвыполните следующую команду CLI:

az ml workspace show -n {project_name} --resource-group {resource_group_name} --query discovery_url

Например, строка подключения может выглядеть примерно так:

eastus.api.azureml.ms;12345678-abcd-1234-9fc6-62780b3d3e05;my-resource-group;my-project-name

Задайте этот строка подключения в качестве переменной среды с именемPROJECT_CONNECTION_STRING.

import os, time
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from openai import AzureOpenAI


with AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
) as project_client:

    # Explicit type hinting for IntelliSense
    client: AzureOpenAI = project_client.inference.get_azure_openai_client(
        # The latest API version is 2024-10-01-preview
        api_version = os.environ.get("AZURE_OPENAI_API_VERSION"),
    )

    with client:
        agent = client.beta.assistants.create(
            model="gpt-4o-mini", name="my-agent", instructions="You are a helpful agent"
        )
        print(f"Created agent, agent ID: {agent.id}")

        thread = client.beta.threads.create()
        print(f"Created thread, thread ID: {thread.id}")

        message = client.beta.threads.messages.create(thread_id=thread.id, role="user", content="Hello, tell me a joke")
        print(f"Created message, message ID: {message.id}")

        run = client.beta.threads.runs.create(thread_id=thread.id, assistant_id=agent.id)

        # Poll the run while run status is queued or in progress
        while run.status in ["queued", "in_progress", "requires_action"]:
            time.sleep(1)  # Wait for a second
            run = client.beta.threads.runs.retrieve(thread_id=thread.id, run_id=run.id)
            print(f"Run status: {run.status}")

        client.beta.assistants.delete(agent.id)
        print("Deleted agent")

        messages = client.beta.threads.messages.list(thread_id=thread.id)
        print(f"Messages: {messages}")

| Пакет исходного кода | библиотеки примеров | справочной документации | (npm) |

Необходимые компоненты

Настройка проекта Центра ИИ Azure и агента

В следующем разделе показано, как настроить необходимые ресурсы для начала работы со службой агента ИИ Azure:

  1. Создание Центра искусственного интеллекта Azure для настройки среды приложения и ресурсов Azure.

  2. Создание проекта ИИ Azure в центре создает конечную точку для вызова приложения и настраивает службы приложений для доступа к ресурсам в клиенте.

  3. Подключение ресурса Azure OpenAI или ресурса Служб искусственного интеллекта Azure

Выбор базовой или стандартной настройки агента

Базовая настройка. Агенты используют многотенантные ресурсы поиска и хранилища, полностью управляемые корпорацией Майкрософт. У вас нет видимости или контроля над этими базовыми ресурсами Azure.

Стандартная настройка. Агенты используют ресурсы поиска и хранилища с одним клиентом. С помощью этой настройки вы можете полностью контролировать и просматривать эти ресурсы, но вы несете затраты на основе использования.

Описание и autodeploy Схема (щелкните, чтобы увеличить масштаб)
Разверните базовую настройку агента, которая использует управляемое удостоверение для проверки подлинности. Ресурсы для центра ИИ, проекта ИИ, учетной записи хранения и служб ИИ создаются для вас.

Учетная запись служб ИИ подключена к проекту и концентратору, а модель gpt-4o-mini развертывается в регионе eastus. По умолчанию используется управляемое корпорацией Майкрософт хранилище ключей.

Развернуть в Azure
Схема архитектуры для базовой настройки агента.
Разверните стандартную настройку агента, которая использует управляемое удостоверение для проверки подлинности.

Ресурсы для центра ИИ, проекта ИИ, хранилища ключей, учетной записи хранения, служб ИИ и поиска ИИ создаются для вас.

Службы ИИ, поиск ИИ, хранилище ключей и учетная запись хранения подключены к проекту и центру. Модель gpt-4o-mini развертывается в регионе eastus.

Развернуть в Azure
Схема архитектуры для стандартной настройки агента.

[Необязательно] Выбор модели в шаблоне autodeploy

Модель, используемую агентом, можно настроить, изменив параметры модели в шаблоне autodeploy. Чтобы развернуть другую модель, необходимо обновить по крайней мере параметры modelName и modelVersion параметры.

По умолчанию шаблон развертывания настраивается со следующими значениями:

Параметр модели Значение по умолчанию
modelName gpt-4o-mini
modelFormat OpenAI (для Azure OpenAI)
modelVersion 2024-07-18
modelSkuName GlobalStandard
modelLocation eastus

Внимание

Не изменяйте параметр modelFormat.

Шаблоны поддерживают только развертывание моделей Azure OpenAI. Сведения о том, какие модели Azure OpenAI поддерживаются в документации по модели службы агента ИИ Azure.

[Необязательно] Использование собственных ресурсов во время установки агента

Примечание.

Если вы используете существующие службы ИИ или ресурс Azure OpenAI, модель не будет развернута. После завершения установки агента можно развернуть модель в ресурсе.

Используйте существующие службы ИИ, Azure OpenAI, поиск ИИ и (или) Хранилище BLOB-объектов Azure ресурс, предоставив полный идентификатор ресурса arm в файле параметров:

  • aiServiceAccountResourceId
  • aiSearchServiceResourceId
  • aiStorageAccountResourceId

Если вы хотите использовать существующий ресурс Azure OpenAI, необходимо обновить aiServiceAccountResourceIdaiServiceKind параметры в файле параметров. Параметр aiServiceKind должен иметь значение AzureOpenAI.

Дополнительные сведения см. в статье об использовании собственных ресурсов.

Настройка и запуск агента

Компонент Description
Агент Настраиваемый ИИ, использующий модели ИИ в сочетании с инструментами.
Средство Средства помогают расширить способность агента надежно и точно реагировать во время беседы. Например, подключение к определяемым пользователем база знаний на основе модели или включение веб-поиска для предоставления текущей информации.
Дискуссия Сеанс беседы между агентом и пользователем. Потоки хранят сообщения и автоматически обрабатывают усечение, чтобы поместить содержимое в контекст модели.
Сообщение Сообщение, созданное агентом или пользователем. Сообщения могут включать текст, изображения и другие файлы. Сообщения хранятся в виде списка в потоке.
Выполнить Активация агента для запуска на основе содержимого Thread. Агент использует свою конфигурацию и сообщения потока для выполнения задач путем вызова моделей и инструментов. В рамках выполнения агент добавляет сообщения в поток.
Шаг выполнения Подробный список шагов, выполняемых агентом в рамках запуска. Агент может вызывать средства или создавать сообщения во время его выполнения. Изучение шагов выполнения позволяет понять, как агент получает результаты.

Выполните следующие команды, чтобы установить пакеты npm.

npm install @azure/ai-projects
npm install @azure/identity

Затем, чтобы пройти проверку подлинности запросов API и запустить программу, используйте команду az login для входа в подписку Azure.

az login

Используйте следующий код для создания и запуска агента. Чтобы запустить этот код, необходимо создать строка подключения с помощью сведений из проекта. Эта строка находится в формате:

<HostName>;<AzureSubscriptionId>;<ResourceGroup>;<ProjectName>

Совет

Вы также можете найти строка подключения в обзоре проекта на портале Azure AI Foundry в разделе "Сведения о>проекте" строка подключения. Снимок экрана: строка подключения на портале Azure AI Foundry.

HostName можно найти, перейдя к вашему discovery_url и удалив начальный https:// и конечный /discovery. Чтобы найти, discovery_urlвыполните следующую команду CLI:

az ml workspace show -n {project_name} --resource-group {resource_group_name} --query discovery_url

Например, строка подключения может выглядеть примерно так:

eastus.api.azureml.ms;12345678-abcd-1234-9fc6-62780b3d3e05;my-resource-group;my-project-name

Задайте этот строка подключения в качестве переменной среды с именемPROJECT_CONNECTION_STRING.

// index.js

import {
  AIProjectsClient,
  DoneEvent,
  ErrorEvent,
  isOutputOfType,
  MessageStreamEvent,
  RunStreamEvent,
  ToolUtility,
} from "@azure/ai-projects";
import { DefaultAzureCredential } from "@azure/identity";

const connectionString =
  process.env["AZURE_AI_PROJECTS_CONNECTION_STRING"] || "<project connection string>";

if (!connectionString) {
  throw new Error("AZURE_AI_PROJECTS_CONNECTION_STRING must be set in the environment variables");
}

export async function main() {
  const client = AIProjectsClient.fromConnectionString(
    connectionString || "",
    new DefaultAzureCredential(),
  );

  // Step 1 code interpreter tool
  const codeInterpreterTool = ToolUtility.createCodeInterpreterTool();

  // Step 2 an agent
  const agent = await client.agents.createAgent("gpt-4o-mini", {
    name: "my-agent",
    instructions: "You are a helpful agent",
    tools: [codeInterpreterTool.definition],
    toolResources: codeInterpreterTool.resources,
  });

  // Step 3 a thread
  const thread = await client.agents.createThread();

  // Step 4 a message to thread
  await client.agents.createMessage(
    thread.id, {
    role: "user",
    content: "I need to solve the equation `3x + 11 = 14`. Can you help me?",
  });

  // Intermission is now correlated with thread
  // Intermission messages will retrieve the message just added

  // Step 5 the agent
  const streamEventMessages = await client.agents.createRun(thread.id, agent.id).stream();

  for await (const eventMessage of streamEventMessages) {
    switch (eventMessage.event) {
      case RunStreamEvent.ThreadRunCreated:
        break;
      case MessageStreamEvent.ThreadMessageDelta:
        {
          const messageDelta = eventMessage.data;
          messageDelta.delta.content.forEach((contentPart) => {
            if (contentPart.type === "text") {
              const textContent = contentPart;
              const textValue = textContent.text?.value || "No text";
            }
          });
        }
        break;

      case RunStreamEvent.ThreadRunCompleted:
        break;
      case ErrorEvent.Error:
        console.log(`An error occurred. Data ${eventMessage.data}`);
        break;
      case DoneEvent.Done:
        break;
    }
  }

  // 6. Print the messages from the agent
  const messages = await client.agents.listMessages(thread.id);

  // Messages iterate from oldest to newest
  // messages[0] is the most recent
  for (let i = messages.data.length - 1; i >= 0; i--) {
    const m = messages.data[i];
    if (isOutputOfType(m.content[0], "text")) {
      const textContent = m.content[0];
      console.log(`${textContent.text.value}`);
      console.log(`---------------------------------`);
    }
  }

  // 7. Delete the agent once done
  await client.agents.deleteAgent(agent.id);
}

main().catch((err) => {
  console.error("The sample encountered an error:", err);
});

Выходные данные содержат запрос и ответы.

I need to solve the equation `3x + 11 = 14`. Can you help me?
---------------------------------
Sure! I can help you solve the equation \(3x + 11 = 14\).

To solve this equation, we need to isolate the variable \(x\). Let's go ahead and solve it.
---------------------------------
The solution to the equation \(3x + 11 = 14\) is \(x = 1\). 

Therefore, the value of \(x\) that satisfies the equation is 1. 

Let me know if you need help with anything else!
---------------------------------

| Пакет исходного кода | библиотеки примеров | справочной документации | (npm) |

Необходимые компоненты

Настройка проекта Центра ИИ Azure и агента

В следующем разделе показано, как настроить необходимые ресурсы для начала работы со службой агента ИИ Azure:

  1. Создание Центра искусственного интеллекта Azure для настройки среды приложения и ресурсов Azure.

  2. Создание проекта ИИ Azure в центре создает конечную точку для вызова приложения и настраивает службы приложений для доступа к ресурсам в клиенте.

  3. Подключение ресурса Azure OpenAI или ресурса Служб искусственного интеллекта Azure

Выбор базовой или стандартной настройки агента

Базовая настройка. Агенты используют многотенантные ресурсы поиска и хранилища, полностью управляемые корпорацией Майкрософт. У вас нет видимости или контроля над этими базовыми ресурсами Azure.

Стандартная настройка. Агенты используют ресурсы поиска и хранилища с одним клиентом. С помощью этой настройки вы можете полностью контролировать и просматривать эти ресурсы, но вы несете затраты на основе использования.

Описание и autodeploy Схема (щелкните, чтобы увеличить масштаб)
Разверните базовую настройку агента, которая использует управляемое удостоверение для проверки подлинности. Ресурсы для центра ИИ, проекта ИИ, учетной записи хранения и служб ИИ создаются для вас.

Учетная запись служб ИИ подключена к проекту и концентратору, а модель gpt-4o-mini развертывается в регионе eastus. По умолчанию используется управляемое корпорацией Майкрософт хранилище ключей.

Развернуть в Azure
Схема архитектуры для базовой настройки агента.
Разверните стандартную настройку агента, которая использует управляемое удостоверение для проверки подлинности.

Ресурсы для центра ИИ, проекта ИИ, хранилища ключей, учетной записи хранения, служб ИИ и поиска ИИ создаются для вас.

Службы ИИ, поиск ИИ, хранилище ключей и учетная запись хранения подключены к проекту и центру. Модель gpt-4o-mini развертывается в регионе eastus.

Развернуть в Azure
Схема архитектуры для стандартной настройки агента.

[Необязательно] Выбор модели в шаблоне autodeploy

Модель, используемую агентом, можно настроить, изменив параметры модели в шаблоне autodeploy. Чтобы развернуть другую модель, необходимо обновить по крайней мере параметры modelName и modelVersion параметры.

По умолчанию шаблон развертывания настраивается со следующими значениями:

Параметр модели Значение по умолчанию
modelName gpt-4o-mini
modelFormat OpenAI (для Azure OpenAI)
modelVersion 2024-07-18
modelSkuName GlobalStandard
modelLocation eastus

Внимание

Не изменяйте параметр modelFormat.

Шаблоны поддерживают только развертывание моделей Azure OpenAI. Сведения о том, какие модели Azure OpenAI поддерживаются в документации по модели службы агента ИИ Azure.

[Необязательно] Использование собственных ресурсов во время установки агента

Примечание.

Если вы используете существующие службы ИИ или ресурс Azure OpenAI, модель не будет развернута. После завершения установки агента можно развернуть модель в ресурсе.

Используйте существующие службы ИИ, Azure OpenAI, поиск ИИ и (или) Хранилище BLOB-объектов Azure ресурс, предоставив полный идентификатор ресурса arm в файле параметров:

  • aiServiceAccountResourceId
  • aiSearchServiceResourceId
  • aiStorageAccountResourceId

Если вы хотите использовать существующий ресурс Azure OpenAI, необходимо обновить aiServiceAccountResourceIdaiServiceKind параметры в файле параметров. Параметр aiServiceKind должен иметь значение AzureOpenAI.

Дополнительные сведения см. в статье об использовании собственных ресурсов.

Настройка и запуск агента

Компонент Description
Агент Настраиваемый ИИ, использующий модели ИИ в сочетании с инструментами.
Средство Средства помогают расширить способность агента надежно и точно реагировать во время беседы. Например, подключение к определяемым пользователем база знаний на основе модели или включение веб-поиска для предоставления текущей информации.
Дискуссия Сеанс беседы между агентом и пользователем. Потоки хранят сообщения и автоматически обрабатывают усечение, чтобы поместить содержимое в контекст модели.
Сообщение Сообщение, созданное агентом или пользователем. Сообщения могут включать текст, изображения и другие файлы. Сообщения хранятся в виде списка в потоке.
Выполнить Активация агента для запуска на основе содержимого Thread. Агент использует свою конфигурацию и сообщения потока для выполнения задач путем вызова моделей и инструментов. В рамках выполнения агент добавляет сообщения в поток.
Шаг выполнения Подробный список шагов, выполняемых агентом в рамках запуска. Агент может вызывать средства или создавать сообщения во время его выполнения. Изучение шагов выполнения позволяет понять, как агент получает результаты.

Выполните следующие команды, чтобы установить пакеты npm.

npm install @azure/ai-projects
npm install @azure/identity

Затем, чтобы пройти проверку подлинности запросов API и запустить программу, используйте команду az login для входа в подписку Azure.

az login

Используйте следующий код для создания и запуска агента. Чтобы запустить этот код, необходимо создать строка подключения с помощью сведений из проекта. Эта строка находится в формате:

<HostName>;<AzureSubscriptionId>;<ResourceGroup>;<ProjectName>

Совет

Вы также можете найти строка подключения в обзоре проекта на портале Azure AI Foundry в разделе "Сведения о>проекте" строка подключения. Снимок экрана: строка подключения на портале Azure AI Foundry.

HostName можно найти, перейдя к вашему discovery_url и удалив начальный https:// и конечный /discovery. Чтобы найти, discovery_urlвыполните следующую команду CLI:

az ml workspace show -n {project_name} --resource-group {resource_group_name} --query discovery_url

Например, строка подключения может выглядеть примерно так:

eastus.api.azureml.ms;12345678-abcd-1234-9fc6-62780b3d3e05;my-resource-group;my-project-name

Задайте этот строка подключения в качестве переменной среды с именемPROJECT_CONNECTION_STRING.

// index.ts

import type {
  MessageDeltaChunk,
  MessageDeltaTextContent,
  MessageTextContentOutput,
} from "@azure/ai-projects";
import {
  AIProjectsClient,
  DoneEvent,
  ErrorEvent,
  isOutputOfType,
  MessageStreamEvent,
  RunStreamEvent,
  ToolUtility,
} from "@azure/ai-projects";
import { DefaultAzureCredential } from "@azure/identity";

const connectionString =
  process.env["AZURE_AI_PROJECTS_CONNECTION_STRING"] || "<project connection string>";

if (!connectionString) {
  throw new Error("AZURE_AI_PROJECTS_CONNECTION_STRING must be set in the environment variables");
}

export async function main(): Promise<void> {
  const client = AIProjectsClient.fromConnectionString(
    connectionString || "",
    new DefaultAzureCredential(),
  );

  // Step 1: Create code interpreter tool
  const codeInterpreterTool = ToolUtility.createCodeInterpreterTool();

  // Step 2: Create an agent
  const agent = await client.agents.createAgent("gpt-4o-mini", {
    name: "my-agent",
    instructions: "You are a helpful agent",
    tools: [codeInterpreterTool.definition],
    toolResources: codeInterpreterTool.resources,
  });

  // Step 3: Create a thread
  const thread = await client.agents.createThread();

  // Step 4: Add a message to thread
  await client.agents.createMessage(
    thread.id, {
    role: "user",
    content: "I need to solve the equation `3x + 11 = 14`. Can you help me?",
  });

  // Intermission: message is now correlated with thread
  // Intermission: listing messages will retrieve the message just added

  // Step 5: Run the agent
  const streamEventMessages = await client.agents.createRun(thread.id, agent.id).stream();

  for await (const eventMessage of streamEventMessages) {
    switch (eventMessage.event) {
      case RunStreamEvent.ThreadRunCreated:
        break;
      case MessageStreamEvent.ThreadMessageDelta:
        {
          const messageDelta = eventMessage.data as MessageDeltaChunk;
          messageDelta.delta.content.forEach((contentPart) => {
            if (contentPart.type === "text") {
              const textContent = contentPart as MessageDeltaTextContent;
              const textValue = textContent.text?.value || "No text";
            }
          });
        }
        break;

      case RunStreamEvent.ThreadRunCompleted:
        break;
      case ErrorEvent.Error:
        console.log(`An error occurred. Data ${eventMessage.data}`);
        break;
      case DoneEvent.Done:
        break;
    }
  }

  // 6. Print the messages from the agent
  const messages = await client.agents.listMessages(thread.id);

  // Messages iterate from oldest to newest
  // messages[0] is the most recent
  for (let i = messages.data.length - 1; i >= 0; i--) {
    const m = messages.data[i];
    if (isOutputOfType<MessageTextContentOutput>(m.content[0], "text")) {
      const textContent = m.content[0] as MessageTextContentOutput;
      console.log(`${textContent.text.value}`);
      console.log(`---------------------------------`);
    }
  }

  // 7. Delete the agent once done
  await client.agents.deleteAgent(agent.id);
}

main().catch((err) => {
  console.error("The sample encountered an error:", err);
});

Выходные данные содержат запрос и ответы.

I need to solve the equation `3x + 11 = 14`. Can you help me?
---------------------------------
Sure! I can help you solve the equation \(3x + 11 = 14\).

To solve this equation, we need to isolate the variable \(x\). Let's go ahead and solve it.
---------------------------------
The solution to the equation \(3x + 11 = 14\) is \(x = 1\). 

Therefore, the value of \(x\) that satisfies the equation is 1. 

Let me know if you need help with anything else!
---------------------------------