Вопросы и ответы о запросах и возможностях генерации текста

Статья
11/01/2024

В часто задаваемых вопросах (вопросах и ответах) описано влияние ИИ в функции запросов в AI Builder.

Что такое запросы?

Функция запросов в AI Builder предлагает пользователям универсальные возможности для разработки рабочих процессов на основе искусственного интеллекта, приложений, преобразования данных и настройки помощников. Она позволяет создавать рабочие процессы и приложения, которые обобщают содержимое документов, создают черновики ответов, классифицируют текст и переводят с текст с одного языка на другой. Эта функция работает на базе службы Azure OpenAI, которая построена на технологии генеративного предварительно обученного преобразователя (GPT). Эти модели были обучены на огромных объемах текстовых данных, что позволило им генерировать текст, похожий на написанный человеком контент.

Узнайте больше в Информационной статье по Службе Azure OpenAI.

Каковы предполагаемые варианты использования запросов?

Запросы в AI Builder позволяют создавать интеллектуальные приложения, рабочие процессы и расширять возможности помощников. Они используют возможности предварительно обученных моделей GPT, что устраняет необходимость в обучении пользовательских моделей. Например, целью может быть создание рабочего процесса, обобщающего входящие жалобы клиентов. Затем он создает заявку в инструменте управления инцидентами на основе категории входящей жалобы. В этом примере создатели могут поручить модели классифицировать и обобщить входящую жалобу, чтобы создать новый инцидент.

В следующем списке представлены наиболее популярные варианты использования этой службы:

Составление сводок электронных писем, разговоров, расшифровок, документов и т. д.
Составление черновиков ответов на вопросы, жалобы, письма клиентов и т. д.
Извлечение информации из контрактов, писем, счетов, заказов и т. д.
Классификация контента по желаемым категориям (например, является ли электронное письмо заказом, жалобой или возвратом).
Анализ тональности заданного текста, (например определение тональности отзыва о продукте).

Во всех этих случаях пользователи несут ответственность за конечный результат работы системы. Они обязаны проверять созданный контент на наличие потенциальных неточностей или неполноты перед его использованием.

Как оценивалась готовность функции подсказок? Какие метрики используются для измерения ее производительности?

Оценка этой возможности включает всестороннее тестирование по целому ряду параметров безопасности. Это тестирование гарантирует, что функция будет соответствовать стандартам и принципам ответственного применения ИИ, принятым в нашей организации. Служба также постоянно оценивается на наличие потенциальных уязвимостей. Показатели, которые мы используем, в первую очередь связаны с эффективностью фильтрации контента и степенью согласия между человеком и машиной в отношении отфильтрованного и нефильтрованного контента.

Какая модерация контента реализована для подсказок?

Модели GPT обучаются на данных из Интернета, что отлично подходит для построения общей модели мира. В то же время она может наследовать токсичный, вредный и предвзятый контент из тех же источников. Модели обучены вести себя безопасно и не допускать вредного содержания продукта, но иногда это может привести к токсичному результату. Запросы AI Builder используют службу безопасности содержимого Azure AI, чтобы реализовать самые современные возможности модерации контента в запросах ИИ. Сюда входят службы по анализу сгенерированных выходных данных с помощью сканеров текста с различной степенью серьезности и защиты от атак с внедрением в запросы. Выходные данные также сканируются на предмет регургитации защищенного материала.

Какие ограничения связаны с использованием функции запросов? Как пользователи могут свести к минимуму влияние связанных с запросами ограничений при использовании системы?

Использование этой технологии должно соответствовать требованиям, изложенным в Правилах поведения службы Azure OpenAI. Эта технология не должна использоваться для создания контента, связанного с политической пропагандой, разжиганием ненависти, дезинформацией, членовредительством, дискриминацией, материалами откровенно сексуального характера или другим контентом, запрещенным Правилами поведения К неподдерживаемым способам использования этой технологии относится предоставление консультаций, вынесение юридических, финансовых, медицинских рекомендаций или предсказания будущего, а также финансовые, научные или математические расчеты и любые другие неподдерживаемые варианты использования, упомянутые в информационной статье о службе Azure OpenAI. В настоящее время эта служба поддерживается исключительно в США и доступна только на английском языке.

Сгенерированный ИИ контент может содержать ошибки, поэтому создателям следует явным образом информировать конечных пользователей своих решений о том, что сгенерированный этой моделью контент является продуктом ИИ. Четкая передача сгенерированного контента помогает избежать чрезмерной зависимости. Создателям также следует предусматривать возможность проверки человеком, чтобы гарантировать точность и приемлемость сгенерированного ИИ контента перед его использованием.

Какие рабочие факторы и настройки позволяют эффективно и ответственно использовать систему?

Генерируемый моделью ИИ контент носит вероятностный характер, поэтому ответы модели могут быть разными для одного и того же запроса. Сгенерированный ответ может быть неправильным или вводящим в заблуждение, и может привести к непредвиденным результатам использования потока или приложения. Например, бизнес-клиенты могут получать неправильную или некорректную информацию, рекомендации или поддержку. Создатели должны внедрить значимый контроль со стороны человека в своих потоках и приложениях, а также тестировать свои запросы на предмет того, что они могут привести к вредоносному поведению или генерированию запрещенного контента, как указано в Правилах поведения Microsoft. Разработчикам малокодовых решений также следует явным образом информировать бизнес-пользователей об использовании ИИ в своих приложениях, указывая, что контент сгенерирован ИИ, Кроме того, генерируемые ответы могут не соответствовать ожиданиям разработчика малокодового решения из-за ограничений по длине, фильтрации содержимого или выбора модели.

Как называется модель GPT, где она размещена и как я могу получить к ней доступ?

AI Builder поддерживает семейство моделей GPT 4o, которое размещено в Службе Azure OpenAI. Доступ к этим моделям можно получить с помощью запросов Power Platform в приложениях, потоках и помощниках.

Чтобы узнать больше, перейдите в раздел Новые возможности в Службе Azure OpenAI

Используются ли мои данные для обучения или улучшения больших языковых моделей AI Builder?

Запросы AI Builder запускаются в Службе Azure OpenAI, размещенной в Microsoft. Данные клиентов не используются для обучения или улучшения какой-либо из базовых моделей Службы Azure OpenAI. Microsoft не передает ваши данные третьим лицам, если вы не предоставили на это разрешение. Ни запросы клиента (входные данные) с его данными обоснования, ни ответы модели (выходные данные) не используются для обучения или улучшения базовых моделей Службы Azure OpenAI.

Является ли контент, добавленный к действию «Создать текст с помощью GPT, используя запрос», общедоступным?

На вкладке Сведения для действия указано: Это действие обеспечивает доступ к вашим запросам с использованием модели GPT, работающей в службе Azure OpenAI Service.

Запросы, которые вы добавляете в действие Создать текст с помощью GPT, используя запрос в Power Automate по умолчанию являются закрытыми. Они видны и могут использоваться только внутри вашей организации, но недоступны для всего мира. Запросы являются закрытыми и предназначены для внутреннего использования в вашей компании.

Создаваемые новые запросы по умолчанию являются частными. Это означает, что лишь создавший их человек может их видеть и использовать в Power Automate, Power Apps и Microsoft Copilot Studio. Благодаря этому у создателя есть время протестировать и оценить работу запросов в приложениях или рабочих процессах и убедиться в их точности, прежде чем открывать их для общего доступа.

Если вы хотите, чтобы другие пользователи среды или группы могли пользоваться вашим запросом в Power Apps или Power Automate, вам необходимо предоставить к нему общий доступ.

Чтобы узнать больше, см. раздел Предоставление общего доступа к запросу.

Как обрабатываются изображения людей в запросах AI Builder?

Решение AI Builder не предназначено для идентификации людей по чертам лица или биометрическим данным. Когда вы отправляете изображения, на которых изображены люди в AI Builder, система автоматически применяет функцию размытия лица перед анализом изображений, чтобы защитить конфиденциальность человека. Этот шаг размывания помогает решить проблемы конфиденциальности, предотвращая идентификацию по признакам лица. При размытии распознавание лиц или сопоставление шаблонов лиц не требуется. Вместо этого любая идентификация известных людей опирается на контекстуальные сигналы, такие как униформа или уникальная обстановка, а не на их лица. Эта мера конфиденциальности не должна влиять на качество получаемых результатов. Размытие лица может иногда упоминаться в ответах системы.

Дополнительные сведения см. в разделе Размытие лиц.

Что такое пользовательские запросы и функции ИИ?

Пользовательские запросы

Пользовательские запросы дают разработчикам свободу указывать большая языковой модели (LLM) вести себя определенным образом или выполнять определенную задачу. Тщательно разработав запрос, вы сможете генерировать ответы, отвечающие конкретным потребностям вашего бизнеса. Это превращает модель LLM в гибкий инструмент для решения различных задач.

Пример

При использовании языковой модели настраиваемая запрос может помочь модели ответить на вопрос, завершить текст, перевести языки, подвести итоги документа и определить задачи, списки дальнейших действий и элементы действий в тексте. Сложность пользовательской запроса может варьироваться от одного предложения до чего-то более сложного, в зависимости от задачи.

Функции ИИ

Готовые функции ИИ — это предварительно настроенные запросы, созданные специалистами Майкрософт и призванные помочь создателям легко выполнять стандартные задачи. Они предлагают готовые к использованию возможности искусственного интеллекта для различных вариантов использования, что упрощает процесс внедрения интеллекта в их решения.