Поделиться через

Обнаружение заземления

  • Статья

API обнаружения заземления определяет, создаются ли текстовые ответы больших языковых моделей (LLM) в исходных материалах, предоставляемых пользователями. Незапланированность относится к экземплярам, в которых LLM создают информацию, которая не является фактической или неточной из того, что было представлено в исходных материалах.

Ключевые термины

  • Извлечение дополненного поколения (RAG): RAG — это метод расширения знаний LLM с другими данными. LLMs может подумать о широкомасштабных темах, но их знания ограничены общедоступными данными, которые были доступны в то время, когда они были обучены. Если вы хотите создать приложения ИИ, которые могут подумать о частных данных или данных, представленных после даты отсечения модели, необходимо предоставить модель с этой конкретной информацией. Процесс добавления соответствующих сведений и вставки его в запрос модели называется получением дополненного поколения (RAG). Дополнительные сведения см. в разделе "Получение дополненного поколения" (RAG).
  • Заземленность и незапланированность в LLMs: это относится к степени, в которой выходные данные модели основаны на предоставленной информации или отражают надежные источники точно. Приземленный ответ тесно соответствует данной информации, избегая спекуляций или фабрики. В измерениях заземления исходная информация имеет решающее значение и служит источником заземления.

Параметры обнаружения заземления

Следующие параметры доступны для обнаружения приземления в безопасности содержимого ИИ Azure:

  • Выбор домена. Пользователи могут выбрать установленный домен, чтобы обеспечить более специальное обнаружение, которое соответствует конкретным потребностям своего поля. Текущие доступные домены и MEDICAL GENERIC.
  • Спецификация задачи. Эта функция позволяет выбрать выполняемую задачу, например QnA (вопросы и ответы) и суммирование с настраиваемыми параметрами в соответствии с типом задачи.
  • Скорость и интерпретируемость: существует два режима, которые отключают скорость с интерпретацией результатов.
    • Режим неисключения: обеспечивает возможность быстрого обнаружения; легко внедрить в онлайн-приложения.
    • Режим причины: предлагает подробные пояснения для обнаруженных незапланированных сегментов; лучше понимать и меры по устранению рисков.

Случаи использования

Обнаружение приземления поддерживает текстовое обобщение и задачи QnA, чтобы гарантировать, что созданные сводки или ответы являются точными и надежными. Ниже приведены некоторые примеры каждого варианта использования.

Задачи суммирования:

  • Медицинская сводка: В контексте статей медицинских новостей обнаружение заземления можно использовать для обеспечения того, чтобы сводка не содержала сфабрикованных или вводящих в заблуждение сведений, гарантируя, что читатели получают точную и надежную медицинскую информацию.
  • Обобщение академических документов: когда модель создает сводки академических статей или научных статей, функция может помочь убедиться, что обобщенное содержимое точно представляет ключевые выводы и вклады, не вводя ложных утверждений.

Задачи QnA:

  • Чат-боты поддержки клиентов: в поддержке клиентов функция может использоваться для проверки ответов, предоставляемых чат-ботами ИИ, что гарантирует, что клиенты получают точную и надежную информацию, когда они задают вопросы о продуктах или службах.
  • Медицинская QnA: Для медицинской QnA функция помогает проверить точность медицинских ответов и консультаций, предоставляемых системами ИИ для медицинских специалистов и пациентов, что снижает риск медицинских ошибок.
  • Образовательный QnA: в образовательных параметрах функция может применяться к задачам QnA, чтобы убедиться, что ответы на академические вопросы или тестовые запросы фактически точны, поддерживая процесс обучения.

Исправление заземления

API обнаружения заземления включает функцию исправления, которая автоматически исправляет любую обнаруженную незапланированность в тексте на основе предоставленных источников заземления. Если функция исправления включена, ответ включает corrected Text поле, представляющее исправленный текст, выровненный с источниками заземления.

Случаи использования

Ниже приведено несколько распространенных сценариев, демонстрирующих, как и когда применять эти функции для достижения наилучших результатов.

Сводка в медицинских контекстах

Вы суммируете медицинские документы, и важно, чтобы имена пациентов в сводках были точными и согласованы с предоставленными источниками заземления.

Пример запроса API:

{
  "domain": "Medical",
  "task": "Summarization",
  "text": "The patient name is Kevin.",
  "groundingSources": [
    "The patient name is Jane."
  ],
}

Ожидаемый результат:

Функция исправления обнаруживает, что Kevin нераспределен, так как конфликтует с источником Janeзаземления. API возвращает исправленный текст: "The patient name is Jane."

Задача "Вопрос и ответ" (QnA) с данными службы поддержки клиентов

Вы реализуете систему QnA для чат-бота поддержки клиентов. Важно, чтобы ответы, предоставляемые ИИ, соответствовали последней и точной информации.

Пример запроса API:

{
  "domain": "Generic",
  "task": "QnA",
  "qna": {
    "query": "What is the current interest rate?"
  },
  "text": "The interest rate is 5%.",
  "groundingSources": [
    "As of July 2024, the interest rate is 4.5%."
  ],
}

Ожидаемый результат:

API обнаруживает, что он не учитывается, 5% так как он не соответствует предоставленному источнику 4.5%заземления. Ответ содержит текст исправления: "The interest rate is 4.5%."

Создание содержимого с историческими данными

Вы создаете содержимое, включающее исторические данные или события, где точность важна для поддержания доверия и предотвращения неверной информации.

Пример запроса API:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "The Battle of Hastings occurred in 1065.",
  "groundingSources": [
    "The Battle of Hastings occurred in 1066."
  ],
}

Ожидаемый результат:

API обнаруживает незапланированную дату 1065 и исправляет ее 1066 на основе источника заземления. Ответ содержит исправленный текст: "The Battle of Hastings occurred in 1066."

Сводка внутренней документации

Вы суммируете внутренние документы, в которых имена продуктов, номера версий или другие определенные точки данных должны оставаться согласованными.

Пример запроса API:

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "Our latest product is SuperWidget v2.1.",
  "groundingSources": [
    "Our latest product is SuperWidget v2.2."
  ],
}

Ожидаемый результат:

Функция исправления определяет SuperWidget v2.1 как незапланированную и обновляет ее SuperWidget v2.2 в ответе. Ответ возвращает исправленный текст: "Our latest product is SuperWidget v2.2."

Рекомендации

Придерживайтесь следующих рекомендаций при настройке систем RAG, чтобы получить лучшую производительность из API обнаружения приземления:

  • При работе с именами продуктов или номерами версий используйте источники приземления непосредственно из внутренних заметок о выпуске или официальной документации по продуктам, чтобы обеспечить точность.
  • Для исторического содержимого перекрестно ссылайтесь на источники основания с доверенными академическими или историческими базами данных, чтобы обеспечить высокий уровень точности.
  • В динамической среде, такой как финансы, всегда используйте самые последние и надежные источники приземления, чтобы обеспечить точную и своевременную информацию в вашей системе ИИ.
  • Всегда убедитесь, что ваши источники заземления являются точными и актуальными, особенно в конфиденциальных областях, таких как здравоохранение. Это сводит к минимуму риск ошибок в процессе суммирования.

Ограничения

Доступность языка

В настоящее время API обнаружения заземления поддерживает содержимое английского языка. Хотя наш API не ограничивает отправку содержимого, отличного от английского языка, мы не можем гарантировать тот же уровень качества и точности в анализе другого языкового содержимого. Мы рекомендуем пользователям отправлять содержимое на английском языке, чтобы обеспечить наиболее надежные и точные результаты api.

Ограничения длины текста

См . сведения о требованиях к входным данным для ограничений максимальной длины текста.

Доступность по регионам

Чтобы использовать этот API, необходимо создать ресурс безопасности содержимого Искусственного интеллекта Azure в поддерживаемых регионах. См . сведения о доступности региона.

Ограничения скорости

См. сведения о тарифах запросов.

Если вам нужна более высокая ставка, обратитесь к нам, чтобы запросить его.

Следующие шаги

Следуйте инструкциям из краткого руководства, чтобы приступить к работе с безопасностью содержимого ИИ Azure для обнаружения заземления.

Краткое руководство по обнаружению приземления