Вопросы и ответы о разговорном интерфейсе для создания агентов
В этих вопросах и ответах (часто задаваемых вопросах) описывается влияние ИИ на разговорный интерфейс для создания агентов в Copilot Studio.
Что такое процесс создания диалогового агента?
Разговорный интерфейс для создания агентов используется для создания пользовательского агента или агента Copilot. В ходе диалога он определяет имя, описание, инструкции, любые добавленные источники базы знаний в Интернете и стартовые запросы (для агентов Copilot)
Каковы возможности разговорного интерфейса для создания агентов?
Вы можете быстро начать работу с пользовательским агентом или конфигурацией агента Copilot через интерфейс на естественном языке. Система обновит конфигурацию на основе данных, введенных создателем во время разговора.
Для чего предназначен интерфейс создания разговорного агента?
Этот интерфейс можно использовать для начала первоначальной настройки агента.
Как оценивался процесс создания диалогового агента и какие метрики используются для измерения производительности?
Мы оценили систему на предмет точности того, насколько хорошо прогнозируемая конфигурация представляла запросы в ходе разговора, чтобы гарантировать качество. Мы также протестировали, чтобы убедиться, что система не создает вредоносный контент.
Каковы ограничения процесса создания разговорных агентов и как пользователи могут свести к минимуму влияние ограничений при его использовании?
Разговорный интерфейс для создания агентов поддерживает только определенные языки. Возможно, вы сможете использовать другие языки, но сгенерированные ответы могут быть непоследовательными, и агент может ответить не так, как вы ожидаете.
Этот интерфейс не поможет вам протестировать агент и может быть использован только для настройки:
- Имя
- Описание
- Инструкции для создания агента
- Добавление веб-источников знаний
- Запуск запросов для агентов Copilot
Дополнительные соображения и ограничения при использовании генеративных ответов в агентах, создаваемых с помощью этой функции, см. в разделе Вопросы и ответы об ответственном применении ИИ для генеративных ответов.
Какие операционные факторы и настройки позволяют эффективно и ответственно использовать процесс создания разговорных агентов?
Вы можете использовать естественный язык для общения с системой в чате или напрямую редактировать конфигурацию вручную на боковой панели. Если вы вносите изменения вручную, система может обновить дополнительную информацию по мере продолжения разговора.
Какие средства защиты предусмотрены в Copilot Studio для ответственного применения ИИ?
Генеративные ответы включают в себя различные средства защиты, обеспечивающие администраторам, создателям и пользователям безопасную работу в соответствии с нормативными требованиями. Администраторы имеют полный контроль над функциями в своем клиенте и всегда могут отключить возможность публикации агентов с генеративными ответами в вашей организации. Создатели могут добавлять пользовательские инструкции, чтобы влиять на типы ответов, которые возвращают их агенты. Дополнительные сведения о рекомендациях по написанию пользовательских инструкций см. в разделе Использование модификации запроса для предоставления пользовательских инструкций агенту.
Создатели также могут ограничить источники знаний, которые агенты могут использовать для ответов на вопросы. Чтобы агенты могли отвечать на вопросы, выходящие за рамки настроенных источников знаний, создатели могут включить функцию Общие знания ИИ. Чтобы агенты могли отвечать только на вопросы в рамках настроенных источников знаний, создателям следует отключить эту функцию.
Copilot Studio также применяет политики модерации контента ко всем запросам к генеративному ИИ, чтобы защитить администраторов, создателей и пользователей от оскорбительного или вредоносного контента. Эти политики модерации контента также распространяются на злонамеренные попытки джейлбрейка, внедрения запросов, несанкционированных запросов и нарушения авторских прав. Все содержимое проверяется дважды: сначала при вводе данных пользователем, а затем перед тем как агент ответит. Если система обнаружит вредоносный, оскорбительный или вредоносный контент, она предотвращает ответ вашего агента.
Наконец, рекомендуется сообщать пользователям, что агент использует искусственный интеллект, поэтому следующее сообщение по умолчанию информирует пользователей: «Чтобы вы знали, я иногда использую ИИ, чтобы ответить на ваши вопросы».