Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействия с генеративным ИИ

Статья
11/19/2024

Важно!

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие организациям обнаруживать соответствие нормативным требованиям (например, SEC или FINRA) и нарушения бизнес-поведения, такие как конфиденциальная или конфиденциальная информация, преследования или угрозы языка, а также предоставление общего доступа к содержимому для взрослых. Соответствие требованиям к обмену данными строится на основе конфиденциальности. Имена пользователей по умолчанию псевдонимизируются, элементы управления доступом на основе ролей встроены, администратор выбирает следователей, а журналы аудита используются для обеспечения конфиденциальности на уровне пользователей.

Вы можете использовать соответствие требованиям к обмену данными для анализа взаимодействий (запросов и ответов), чтобы обнаружить неуместное или рискованное взаимодействие или совместное использование конфиденциальной информации, введенной в многочисленные приложения искусственного интеллекта.

К ним относятся Microsoft 365 Copilot, copilots, созданные с помощью Microsoft Copilot Studio, приложения ИИ, подключенные с помощью соединителей Microsoft Entra или Схема данных Microsoft Purview, и многое другое.

Совет

Приступая к работе с Microsoft Security Copilot изучить новые способы интеллектуальной и быстрой работы с использованием возможностей ИИ. Дополнительные сведения о Microsoft Security Copilot в Microsoft Purview.

поддержка интерфейса Microsoft Copilot

Соответствие требованиям к обмену данными может обнаруживать взаимодействия в любом сообщении с IPM. SkypeTeams.Message.Copilot. класс элемента приложения . К ним относятся приложения Copilot в решениях Майкрософт, таких как Teams, Outlook и многие другие.

Например, соответствие требованиям к обмену данными обнаруживает взаимодействие в сообщениях Copilot с IPM. SkypeTeams.Message.Copilot.Teams, IPM. Классы элементов SkypeTeams.Message.Copilot.Outlook и т. д.

Поддержка подключенных приложений генеративного ИИ

Соответствие требованиям к обмену данными может обнаруживать взаимодействие с запросами и ответами с приложениями ИИ, не использующих Copilot. Это приложения искусственного интеллекта, подключенные с помощью Microsoft Entra и соединителей Схема данных Microsoft Purview.

Поддержка других приложений ИИ

Соответствие требованиям к обмену данными также позволяет обнаруживать взаимодействие с приложениями ИИ из браузера и сетевой активности пользователей в вашей организации. Это помогает обнаруживать недопустимые или рискованные взаимодействия или совместное использование конфиденциальной информации, введенной в приложения ИИ за пределами вашей организации.

Предварительные условия

Чтобы изучить взаимодействие Copilot в области соответствия требованиям к обмену данными, вам должна быть назначена одна из следующих ролей:

Соответствие требованиям к обмену данными
Следователя по соответствию коммуникациям
Аналитики соответствия требованиям к коммуникациям

Вы также должны быть назначены в качестве рецензента политики в поле Рецензенты во время создания политики.

Принципы действия

Важно!

Корпорация Майкрософт стремится обеспечить ответственное развитие систем искусственного интеллекта (ИИ) таким образом, чтобы оправдать доверие людей. В рамках этого обязательства команды инженеров Microsoft Purview используют шесть основных принципов стратегии ответственного ИИ Корпорации Майкрософт для разработки, создания решений ИИ и управления ими. В рамках наших усилий по ответственному развертыванию ИИ мы предоставляем документацию, доступ на основе ролей, аттестацию сценариев и многое другое, чтобы помочь организациям ответственно использовать системы ИИ.

При создании политики соответствия требованиям к обмену данными, которая обнаруживает взаимодействие Microsoft 365 Copilot и Microsoft 365 Copilot Chat, в том числе:

Любой запрос или ответ, введенный в поддерживаемое приложение на основе искусственного интеллекта, соответствующее политике соответствия требованиям к обмену данными, отображается в виде соответствия политике на странице Политики на вкладке Ожидание с отдельными записями для запросов и ответов. Если политике соответствует только запрос или только ответ, на вкладке Ожидание создается элемент только для этого соответствия политике. Вы можете исправить совпадения политик для приложений на основе искусственного интеллекта так же, как и любое другое совпадение политик.

Для каждого элемента на вкладке Ожидание отображаются следующие сведения для соответствия политикЕ ИИ:

Значки. Значок Copilot определяет соответствие политики как генерирующее взаимодействие ИИ с Copilot на основе Майкрософт Для всех других взаимодействий с генеративным ИИ это значок электронной почты.
Столбец темы. Значение [Copilot] в этом столбце определяет соответствие политики как генерирующее взаимодействие ИИ с Копилотами на основе Майкрософт. Значение [приложение ИИ] в этом столбце определяет соответствие политики для всех других взаимодействий с искусственным интеллектом.
Столбец отправителей: отправитель сообщения. В зависимости от исходного приложения ИИ отправитель отображается следующим образом:
- Если соответствие политике является ответом приложения Copilot, значением будет Copilot.
- Если соответствие политике является ответом от подключенного приложения ИИ, значением будет подключенное приложение ИИ.
- Если соответствие политике является ответом от облачного приложения ИИ, значением будет облачное приложение ИИ.
Столбец Recipient: получатели, включенные в сообщение. Это значение — пользователь, взаимодействующий с приложением ИИ.
Текст сообщения. Текст сообщения, введенный пользователем (текст, который вызвал совпадение политики), отображается в правой части экрана полностью.

Создание политики, которая обнаруживает взаимодействие с Microsoft Copilot

Выберите соответствующую вкладку для используемого портала. В зависимости от плана Microsoft 365 Портал соответствия требованиям Microsoft Purview будет прекращена или будет прекращена в ближайшее время.

Дополнительные сведения о портале Microsoft Purview см. на портале Microsoft Purview. Дополнительные сведения о портале соответствия требованиям см. в разделе Портал соответствия требованиям Microsoft Purview.

Портал Microsoft Purview
Портал соответствия требованиям

Войдите на портал Microsoft Purview , используя учетные данные учетной записи администратора в организации Microsoft 365.
Перейдите к решению для обеспечения соответствия требованиям к обмену данными .
Выберите Политики в области навигации слева.
Выберите Создать политику, а затем выберите шаблон Обнаружение Microsoft Copilot взаимодействий.
Введите имя политики, выберите пользователей и группы, к которых будет применена политика, а затем выберите проверяющих для политики. Дополнительные сведения об этих параметрах при создании политики на основе шаблона
Просмотрите список параметров, выбранных на основе шаблона, а затем щелкните Создать политику , чтобы создать политику, или выберите Настроить политику , если вы хотите внести какие-либо изменения перед созданием политики.

Добавление приложения искусственного интеллекта в качестве расположения для существующей политики

Портал Microsoft Purview
Портал соответствия требованиям

Войдите на портал Microsoft Purview , используя учетные данные учетной записи администратора в организации Microsoft 365.
Перейдите к решению для обеспечения соответствия требованиям к обмену данными .
Выберите Политики в области навигации слева.
Выберите Дополнительные действия (многоточие) в строке политики, которую вы хотите изменить, а затем нажмите кнопку Изменить.
Нажмите кнопку Далее два раза в рабочем процессе создания политики, чтобы перейти на страницу Выбор расположений для обнаружения сообщений .
Установите один или несколько из следующих флажков, чтобы добавить приложение искусственного интеллекта в качестве расположения:
- Microsoft Copilot интерфейсы
- Корпоративные приложения ИИ
- Другие приложения ИИ
Примечание.

Отдельные расположения Teams, Copilot и приложений ИИ развертываются и пока могут не отображаться в клиенте Purview.
Внесите другие изменения в политику, а затем на странице Проверка и завершение нажмите кнопку Сохранить.

Создание политики для проверки всех взаимодействий с генеративным ИИ

Когда вы впервые работаете с взаимодействием с генеративным ИИ, вам может потребоваться просмотреть все взаимодействия с ИИ, чтобы почувствовать, как люди в вашей организации используют эти приложения. Чтобы создать политику для просмотра всех взаимодействий СИ при создании или изменении политики, выполните следующие действия:

Убедитесь, что расположение содержит все приложения искусственного интеллекта:
- Microsoft Copilot интерфейсы
- Корпоративные приложения ИИ
- Другие приложения ИИ
Убедитесь, что для параметра Проверить процент на странице Выбор условий и проверки процентного процента задано значение 100 %.
Не устанавливайте никаких условий для политики.

Примечание.

В зависимости от размера организации политика, которая обнаруживает все взаимодействия с генеративным ИИ, может привести к большому объему обнаруженных сообщений, что может привести к тому, что ваша организация достигнет предела хранилища. В этом случае может потребоваться внести изменения в политику, чтобы сократить количество обнаружений.

Исправление совпадений политик и оповещений, содержащих генеривные взаимодействия ИИ

Вы можете исправить совпадения политик и оповещения, содержащие взаимодействие с генеративным ИИ, так же, как и любое соответствие политик или оповещений в соответствии с обменом данными. Например, можно отметить соответствие политике тегами, эскалацию, разрешение, скачивание или экспорт. Узнайте больше о разрешении совпадений политик и оповещений в области соответствия требованиям к обмену данными.

Отчеты

Взаимодействия СИ, внесенные в область политики соответствия требованиям к обмену данными, отображаются в отчетах о соответствии требованиям к обмену данными и в данных аудита. Узнайте больше об отчетах о соответствии требованиям к обмену данными и аудитах.

Поделиться через