Получение контекста приложения и конечного пользователя для оповещений ИИ
Microsoft Defender для облака защита от угроз для рабочих нагрузок ИИ позволяет повысить эффективность и безопасность созданных оповещений искусственного интеллекта, предоставив как конечный пользователь, так и контекст приложения.
В большинстве случаев приложения и сценарии, использующие службы ИИ, создаются как часть приложения, поэтому вызовы API к службе ИИ создаются из веб-приложения, вычислительного экземпляра или шлюза ИИ. Эта настройка архитектуры представляет сложность из-за отсутствия контекста при изучении запросов искусственного интеллекта для определения бизнес-приложения или участника.
Defender для облака вместе с Azure AI позволяет добавлять параметры в вызовы API Azure для распространения критически важных конечных пользователей или контекста приложения для оповещений ИИ Defender для облака. Это, в свою очередь, приводит к более эффективному рассмотрению и результатам. Например, при добавлении IP-адреса или удостоверения конечного пользователя можно заблокировать этот пользователь или сопоставить инциденты и оповещения этого пользователя. При добавлении контекста приложения можно определить приоритет или определить, может ли подозрительное поведение считаться стандартным для этого приложения в организации.
Необходимые компоненты
Ознакомьтесь с обзором — защита от угроз ИИ.
Включите защиту от угроз для рабочих нагрузок ИИ (предварительная версия) в приложении ИИ с помощью базовой модели Azure OpenAI непосредственно через службу Azure OpenAI. Обратите внимание, что эта функция в настоящее время не поддерживается при использовании моделей , развернутых с помощью API вывода модели ИИ Azure.
Добавление параметров безопасности в вызов Azure OpenAI
Для получения оповещений системы безопасности искусственного интеллекта с дополнительным контекстом можно добавить любые или все приведенные ниже примеры SecurityContext параметров в вызовы API Azure OpenAI.
Все поля в этом SecurityContext поле являются необязательными.
Для контекста конечного пользователя рекомендуется передавать поля EndUserId и SourceIP поля как минимум. SourceIP Эти EndUserId поля предоставляют аналитикам Центра безопасности (SOC) возможность исследовать инциденты безопасности, включающие ресурсы ИИ и созданные приложения ИИ.
Для контекста приложения просто передайте applicationName поле в виде простой строки.
Если имя поля указано неправильно, вызов API Azure OpenAI по-прежнему будет выполнен успешно. Схема SecurityContext не требует проверки для передачи через поле пользователя Azure OpenAI. Разработчики приложений должны убедиться, что допустимый JSON передается user в поле в каждом запросе, сделанном приложением в Azure OpenAI.
Схема SecurityContext
Точную схему можно найти в справочной документации по REST API Azure OpenAI.
Объект контекста безопасности пользователя является частью текста запроса API завершения чата.
Эта функция в настоящее время не поддерживается при использовании моделей , развернутых с помощью API вывода модели искусственного интеллекта Azure.