Часто задаваемые вопросы о генеративных ответах
Эти часто задаваемые вопросы (FAQ) описывают эффект ИИ функции генеративных ответов Copilot Studio.
Что такое генеративные ответы?
Генеративные ответы делают ваш агент ценным изначально и увеличивают количество тем, в которых ваш агент обсуждается, без необходимости ручного создания диалогового дерева.
Каковы возможности генеративных ответов?
Когда пользователь задает агент вопрос, который не содержит настроенного тема, агент может дополнительно искать релевантный контент из источника по вашему выбору. Этот поиск включает общедоступные веб-сайты, SharePoint или ваши собственные источники данных, включая изображения, встроенные в файлы PDF. агент использует генеративный ИИ для обобщения этой информации в ответ, возвращаемом пользователю агент.
Заметка
С сентября 2024 года агенты также смогут рассуждать о нетекстовых элементах в загруженных файлах, таких как изображения, табличные данные и диаграммы.
Каково предполагаемое использование генеративных ответов?
Генеративные ответы можно использовать в качестве основных источников информации в вашем агент или в качестве запасного варианта, когда созданные темы не могут ответить на запрос пользователя.
Как оценивались генеративные ответы и какие метрики используются для измерения производительности?
Эта возможность постоянно оценивается на основе набора вручную созданных наборов данных вопросов и ответов, охватывающих различные отрасли. Далее пользовательские наборы данных оцениваются на предмет оскорбительных и вредоносных запросов и ответов — как автоматически, так и вручную в рамках сеансов, предназначенных для расширения набора тестов.
Каковы ограничения генеративных ответов и как пользователи могут минимизировать влияние ограничений при использовании генеративных ответов?
Вам необходимо включить опцию генеративных ответов для каждого агент.
См. раздел Поддержка языков, где приведен список поддерживаемых языков этой функцией и их соответствующих стадий. Вы можете использовать другие языки, но полученные ответы могут быть непоследовательными, а агент может не отреагировать должным образом или не соответствовать вашим ожиданиям.
На эту возможность могут распространяться ограничения на использование или регулирование емкости.
Ответы, генерируемые с использованием генеративных ответов, не всегда идеальны и могут содержать ошибки.
Cистема разработана так, чтобы находить релевантные знания на выбранном вами веб-сайте и компоновать из них легко воспринимаемый ответ. Однако важно помнить о некоторых характеристиках ИИ, которые могут привести к неожиданным ответам:
Корпус, на котором обучалась модель, не включает данные, созданные после 2021 года.
Существуют меры, позволяющие модели не использовать свой обучающий корпус в качестве источника ответов, однако ответы могут включать контент с веб-сайтов, отличных от выбранного вами.Система не выполняет проверку точности, поэтому, если выбранный источник данных содержит неточную информацию, она может быть показана пользователям вашего агент. Мы внедрили меры по смягчению последствий для фильтрации нерелевантных и оскорбительных ответов, а функция не реагирует при обнаружении оскорбительной лексики. Эти фильтры и меры не являются стопроцентно надежными.
Заметка
Всегда тестируйте и проверяйте своих агентов перед публикацией, а также собирайте отзывы от пользователей агент. Ваш администратор может отключить возможность публикации агентов с генеративными ответами для вашего арендатора в Power Platform центре администрирования.
Какие данные собирает эта возможность? Как эти данные используются?
Эта возможность собирает адресуемые пользователям запросы, возвращаемые системой ответы и любые предоставляемые вами отзывы.
Мы используем эти данные для оценки и улучшения качества работы этой возможности. Более подробную информацию о том, какие данные собираются, можно найти в условиях использования предварительной версии.
Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать генеративные ответы?
Генеративные ответы работают лучше всего, когда вы назначаете надежный и действительный источник, из которого должен запрашиваться контент. Таким источником может быть веб-сайт вашей компании, например www.microsoft.com. На всех веб-страницах, относящихся к этому домену, будет осуществляться поиск информации, соответствующей запросу пользователя.
Мы используем предоставленную вами обратную связь о вашей удовлетворенности полученными ответами для улучшения качества системы. Вы можете предоставить отзыв, выбирая значки «палец вверх» или «палец вниз» для сгенерированных ответов. Вы также можете включить дополнительные отзывы в форме произвольного текста.
Какие меры защиты предусмотрены в Copilot Studio для ответственного ИИ?
Генеративные ответы включают в себя различные меры защиты, гарантирующие администраторам, создателям и пользователям безопасный и соответствующий требованиям опыт. Администраторы имеют полный контроль над функциями своего клиента и всегда могут отключить возможность публикации агентов с генеративными ответами в вашей организации. Создатели могут добавлять индивидуальные инструкции, чтобы влиять на типы ответов, возвращаемых их агентами. Дополнительную информацию о передовых методах написания пользовательских инструкций см. в разделе Использование модификации подсказок для предоставления пользовательских инструкций для вашего агент.
Создатели также могут ограничить источники знаний , которые агенты могут использовать для ответов на вопросы. Чтобы позволить агентам отвечать на вопросы, выходящие за рамки их настроенных источников знаний, создатели могут включить функцию AI General Knowledge . Чтобы ограничить ответы агентов только на вопросы, соответствующие их настроенным источникам знаний, создателям следует отключить эту функцию.
Copilot Studio также применяет политику модерации контента ко всем запросам генеративного ИИ для защиты администраторов, создателей и пользователей от оскорбительного или вредоносного контента. Эти политики модерации контента также распространяются на злонамеренные попытки взлома, мгновенного внедрения, мгновенного извлечения и нарушения авторских прав. Весь контент проверяется дважды: первый раз во время ввода данных пользователем и еще раз, когда агент готовится ответить. Если система обнаружит вредоносный, оскорбительный или вредоносный контент, она не даст вашему агент отреагировать.
Наконец, лучше всего сообщить пользователям, что агент использует искусственный интеллект, поэтому следующее сообщение по умолчанию информирует пользователей: «Просто чтобы вы знали, я иногда использую ИИ, чтобы отвечать на ваши вопросы».