Управление ответственным решением для создания искусственного интеллекта

  • 3 мин

Когда вы определите потенциальные последствия, создайте способ измерения их присутствия и реализуйте их в решении, вы можете подготовиться к выпуску решения. Перед этим есть некоторые рекомендации, которые помогут вам обеспечить успешный выпуск и последующие операции.

Полные предварительные проверки

Перед выпуском создаваемого решения искусственного интеллекта определите различные требования к соответствию в организации и отрасли и убедитесь, что соответствующие команды получают возможность просматривать систему и ее документацию. К общим проверкам соответствия относятся:

  • Юридические услуги
  • Конфиденциальность
  • Безопасность
  • Специальные возможности

Выпуск и управление решением

Для успешного выпуска требуется некоторое планирование и подготовка. Ознакомьтесь со следующими рекомендациями:

  • Разработка поэтапного плана доставки, позволяющего изначально освободить решение для ограниченной группы пользователей. Этот подход позволяет собирать отзывы и выявлять проблемы перед выпуском для более широкой аудитории.
  • Создайте план реагирования на инциденты, включающий оценки времени, затраченного на реагирование на непреднамеренные инциденты.
  • Создайте план отката, определяющий шаги для отменить изменения решения в предыдущее состояние, если происходит инцидент.
  • Реализуйте возможность немедленно блокировать вредоносные ответы системы при обнаружении.
  • Реализуйте возможность блокировки определенных пользователей, приложений или IP-адресов клиента в случае неправильного использования системы.
  • Реализуйте способ предоставления отзывов и отчетов о проблемах. В частности, пользователи могут сообщать о созданном содержимом как "неточные", "неполные", "вредные", "оскорбительные" или в противном случае проблематичные.
  • Отслеживайте данные телеметрии, позволяющие определить удовлетворенность пользователей и выявить функциональные пробелы или проблемы с удобством использования. Собранные данные телеметрии должны соответствовать законам о конфиденциальности и политикам вашей организации и обязательствам в отношении конфиденциальности пользователей.

Использование Сейф содержимого ИИ Azure

Несколько ресурсов ИИ Azure предоставляют встроенный анализ содержимого, с которым они работают, включая язык, визуальное распознавание и Azure OpenAI с помощью фильтров содержимого.

Контент ИИ Azure Сейф ty предоставляет дополнительные функции, ориентированные на обеспечение безопасности ИИ и копилотов от риска. К таким функциям относятся обнаружение неуместных или оскорбительных языков, как из входных данных, так и созданных, а также обнаружение рискованных или неуместных входных данных.

Функции в Сейф содержимого ИИ Azure включают:

Функция Функция
Экраны запроса Проверяет риск атак ввода пользователем на языковые модели
Обнаружение заземления Определяет, находятся ли текстовые ответы в исходном содержимом пользователя
Обнаружение защищенных материалов Сканирует известное содержимое, защищенное авторским правом
Пользовательские категории Определение пользовательских категорий для любых новых или новых шаблонов

Подробные сведения и краткие руководства по использованию Сейф содержимого ИИ Azure можно найти на страницах документации для службы.