Прототипы агентов, вызывающих инструменты, в ИИ-песочнице

Важный

Эта функция в настоящее время доступна в общедоступной предварительной версии.

В этой статье показано, как создать прототип агента с возможностью вызывать инструменты с помощью площадки искусственного интеллекта .

Используйте ИИ-площадку, чтобы быстро создать агента для вызова инструментов и общайтесь с ним в реальном времени, чтобы увидеть, как он себя ведет. Затем экспортируйте агент для развертывания или дальнейшей разработки в коде Python.

Для создания агентов с использованием код-ориентированного подхода см. статью "Создание агентов ИИ в коде".

Требования

В рабочей области должны быть включены следующие функции для прототипов агентов с помощью ИИ Playground:

• Единого каталога

• Бессерверные вычисления

• Фреймворк агента ИИ Mosaic

• Модели основы оплаты за токен или внешние модели. Смотрите Доступность модели по регионам

агенты вызова инструментов в экспериментальной среде ИИ

Чтобы создать прототип агента вызова средства, выполните приведенные далее действия.

1. На игровой площадке выберите модель с меткой Tools с поддержкой.

   для вызова средства LLM

2. Выберите Инструменты и выберите инструмент, чтобы передать агенту. В этом руководстве выберите встроенную в каталог Unity функцию system.ai.python_exec. Эта функция позволяет агенту выполнять произвольный код Python. Чтобы узнать, как создать инструменты агента, см. статью инструменты агента ИИ.

   

3. Чат для проверки текущей комбинации LLM, инструментов и системного запроса, а также для экспериментов с вариантами.

   

Экспорт и развертывание агентов игровой площадки ИИ

После создания прототипа агента ИИ на игровой площадке ИИ экспортируйте его в записные книжки Python, чтобы развернуть его в конечной точке обслуживания модели.

1. Щелкните Экспортировать, чтобы создать записные книжки Python, определяющие и развертывающие агента ИИ.

   После экспорта кода агента три файла сохраняются в рабочей области. Эти файлы следуют методологии MLflow "Модели из кода", которая определяет агентов непосредственно в коде, а не на основе сериализованных артефактов. Дополнительные сведения см. в статье модели MLflow из Руководства по коду:

   • agent блокнот: содержит код на Python, определяющий вашего агента с помощью LangChain.
   • driver записная книжка: содержит код Python для ведения журналов, трассировки, регистрации и развертывания агента ИИ с помощью фреймворка агентной системы ИИ Mosaic AI.
   • config.yml: содержит сведения о конфигурации агента, включая определения инструментов.

2. Откройте блокнот agent, чтобы увидеть код LangChain, который определяет вашего агента.

3. Запустите ноутбук driver для регистрации и развертывания агента на конечную точку службы моделей.

Заметка

Экспортируемый код может вести себя по-разному от сеанса ИИ Playground. Databricks рекомендует запускать экспортированные записные книжки для итерации и отладки дальше, оценивать качество агента, а затем развертывать агент для совместного использования с другими пользователями.

Разработка агентов в коде

Используйте экспортированные записные книжки для тестирования и программной итерации. Используйте записную книжку для выполнения таких действий, как добавление инструментов или настройка параметров агента.

При разработке программно агенты должны соответствовать конкретным требованиям, чтобы быть совместимыми с другими функциями агента Databricks. Чтобы узнать, как создавать агентов с использованием подхода code-first, см. статью Создание агентов ИИ в коде

Дальнейшие действия

• Создайте свои собственные инструменты агента.
• Запишите действие агента ИИ.
• Добавление трассировок в агент ИИ.
• Развертывание агента ИИ.