Вопросы и ответы по использованию генеративной оркестрации
Эти часто задаваемые вопросы (FAQ) описывают влияние ИИ на генеративную оркестровку для встроенных пользовательских агентов Copilot Studio.
Что такое генеративная оркестрация?
Генеративная оркестровка позволяет вашему пользовательскому агент отвечать на запросы пользователей, предлагая соответствующие темы и/или действия. Генеративная оркестрация позволяет вести более естественные беседы, заполняя входные данные с использованием сведений из истории беседы. Например, если вы спрашиваете о ближайшем магазине в Киркланде, а затем спрашиваете о погоде там, оркестровка предполагает, что вы хотите спросить о погоде в Киркланде. Система также может объединять в цепочку несколько действий или тем. Например, он может ответить: «Мне нужно узнать часы работы магазина и найти ближайший магазин». Если агент не уверен в деталях, он может задать уточняющие вопросы, чтобы устранить неоднозначность.
Что может делать генеративная оркестрация?
При генеративной оркестровке система сначала создает план ответа на запрос пользователя, используя название, описание, входные и выходные данные доступных тем и действий. Она также ссылается на последние 10 ходов истории разговора. Затем она пытается выполнить план, заполняя необходимые данные из разговора и уточняя у пользователя любые недостающие или неоднозначные детали. Прежде чем ответить пользователю, система проверяет, нашла ли она ответ на вопрос пользователя. Если нет, процесс повторяется. Наконец, система генерирует ответ на основе выходных данных плана из тем и/или действий. Он также использует любые пользовательские инструкции для агент при генерации окончательного ответ.
Каковы предполагаемые цели использования генеративной оркестрации?
Вы можете использовать этот режим в своем агент для создания агент, который может отвечать на запросы пользователей на основе истории разговоров, названий и описаний тем, а также названий, описаний, входных и выходных данных для действий.
Как оценивается генеративная оркестрация? Какие метрики используются для измерения ее производительности?
Генеративная оркестрация оценивается по сквозному качеству на каждом шаге процесса. Качество измеряется с точки зрения того, насколько хорошо система создает и выполняет план, который успешно решает запрос пользователя. Наша команда вручную маркирует показатели качества во время тонкой настройки. Мы оцениваем качество по различным запросам, подсказкам и действиям пользователей. Мы также оцениваем, насколько хорошо система игнорирует вредоносный контент от пользователей и авторов, а также насколько хорошо система избегает создания вредоносного контента.
Какие ограничения связаны с генеративной оркестрацией? Как пользователи могут минимизировать влияние ограничений генеративной оркестрации при использовании системы?
Для достижения наилучших результатов убедитесь, что ваши темы и действия включают качественные описания. Мы даем рекомендации по написанию высококачественных описаний в документации по Copilot Studio.
Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать генеративную оркестрацию?
Генеративная оркестрация в настоящее время доступна только на английском языке. После включения генеративного режима в вашем агент вы можете протестировать систему, чтобы увидеть, насколько хорошо она работает, используя тестовую панель. Вы также можете добавить пользовательские инструкции для вашего агент, чтобы помочь создать окончательный ответ.
Что такое действия и как ваш агент при включенном генеративном режиме их использует?
Вы можете добавить действия в свой пользовательский агент для ответа на запросы пользователей. Вы можете использовать действия, разработанные Microsoft или сторонними разработчиками, или создавать свои собственные действия. Вы можете указать, какие действия следует настроить для использования пользовательского агент. Вы также можете редактировать название, описание, входные данные и выходные данные, используемые системой.
Какие данные Copilot Studio может предоставить для действий? Какие разрешения есть у действий Copilot Studio?
Когда агент вызывает действие, действие получает входные значения, указанные действием. Входные значения могут включать часть истории общения с конечным пользователем.
Какие проблемы могут возникнуть при использовании Copilot Studio enabled with actions?
Действия не всегда могут работать так, как задумано. Ошибки могут возникать при подготовке входных данных для действия или при создании ответ на основе выходных данных действия. Ваш агент также может вызывать неправильное действие для запроса пользователя. Чтобы снизить риск возникновения таких ошибок при использовании действий, убедитесь, что в вашем пользовательском тикете агент настроены качественные, релевантные и недвусмысленные описания действий.
Какие меры защиты Copilot Studio предусмотрены для ответственного ИИ?
Для защиты ваших агентов предусмотрено множество функций смягчения последствий. Вы можете настроить свой агент с помощью набора знаний, действий и тем. Агенты никогда не предпринимают действий, которые не являются частью их конфигурации. Администраторы могут запретить действия агентам в вашей организации. Если вас беспокоит возможность запуска действия без подтверждения, вы можете настроить действие так, чтобы оно вызывалось только в том случае, если пользователь согласен на его вызов.
Кроме того, у нас есть классификаторы, которые анализируют входные данные в систему для обнаружения вредоносного контента и атак с целью взлома. Согласно нашим тестам, эти классификаторы демонстрируют высокую эффективность при блокировке вредоносного контента и атак с целью взлома, а также высокую эффективность при неблокировании контента, который не является вредоносным, или атак с целью взлома. Однако классификаторы не могут быть идеальными, поэтому существует риск того, что агент будет создавать вредоносный контент или реагировать на атаку с целью взлома. К этим рискам относятся атаки с использованием междоменного внедрения подсказок, при которых к выходным данным действия или источника знаний могут быть добавлены инструкции, которым затем пытается следовать агент.
Наконец, лучше всего сообщить пользователям, что агент использует искусственный интеллект, поэтому следующее сообщение по умолчанию информирует пользователей: «Просто чтобы вы знали, я иногда использую ИИ, чтобы отвечать на ваши вопросы».