通过

配置通信合规性策略以检测生成 AI 交互

  • 项目

重要

Microsoft Purview 通信合规性提供的工具可帮助组织检测法规合规性 (例如 SEC 或 FINRA) 和业务行为违规行为，例如敏感或机密信息、骚扰或威胁性语言以及成人内容的共享。 根据隐私设计构建，用户名默认为假名化，内置基于角色的访问控制，管理员选择调查人员，审核日志已到位，以帮助确保用户级隐私。

可以使用通信合规性来分析交互 (提示和响应，) 检测不适当或有风险的交互或共享输入到许多生成 AI 应用程序中的机密信息。

其中包括智能 Microsoft 365 Copilot 副驾驶®、使用Microsoft Copilot Studio生成的 Copilot、通过Microsoft Entra或Microsoft Purview 数据映射连接器连接的 AI 应用程序等。

提示

开始使用Microsoft Security Copilot，探索使用 AI 功能更智能、更快速地工作的新方法。 详细了解 Microsoft Purview 中的Microsoft Security Copilot。

Microsoft Copilot体验支持

通信合规性可以检测与 IPM 的任何消息中的交互。SkypeTeams.Message.Copilot。应用程序 项类。 其中包括 Teams、Outlook 等Microsoft解决方案中的 Copilot 应用程序。

例如，通信合规性检测 Copilot 消息中与 IPM 的交互。SkypeTeams.Message.Copilot.Teams、IPM。SkypeTeams.Message.Copilot.Outlook 项目类等。

连接的生成 AI 应用程序支持

通信合规性可以检测与非 Copilot AI 应用程序的提示和响应交互。 这些是使用 Microsoft Entra 和 Microsoft Purview 数据映射 连接器连接的生成 AI 应用程序。

其他 AI 应用程序支持

通信合规性还可以检测组织中的用户从浏览器和网络活动中与 AI 应用程序的交互。 这有助于检测在组织外部的 AI 应用程序中输入的不适当或有风险的交互或机密信息的共享。

先决条件

若要调查通信合规性方面的 Copilot 交互，必须分配以下角色之一：

  • 通信合规性
  • 通信合规性调查员
  • 通信合规性分析师

在策略创建期间，还必须在“审阅者”字段中将你分配为策略的审阅者。

运作方式

重要

Microsoft致力于确保人工智能 (人工智能) 系统得到负责任的开发，并保证人们的信任。 作为这一承诺的一部分，Microsoft Purview 工程团队正在实施 Microsoft负责任 AI 战略的六项核心原则，以设计、构建和管理 AI 解决方案。 作为负责任部署 AI 工作的一部分，我们提供文档、基于角色的访问、方案证明等，以帮助组织负责任地使用 AI 系统。

创建可检测智能 Microsoft 365 Copilot 副驾驶®和Microsoft Copilot交互的通信合规性策略时，可以利用所有通信合规性功能，包括：

在与通信合规性策略匹配的受支持的生成 AI 应用中输入的任何提示或响应在“挂起”选项卡上的“策略”页上显示为策略匹配项，其中包含单独的提示和响应条目。 如果只有提示或只有响应与策略匹配，则会在“ 挂起 ”选项卡上创建一个仅针对该策略匹配项。 可以采用与修正任何其他策略匹配相同的方式修正生成 AI 应用的策略匹配项。

AI 策略匹配项的“ 挂起 ”选项卡上的每个项都显示以下信息：

  • 图标：Copilot 图标将策略匹配标识为与基于Microsoft的 Copilot 的生成 AI 交互对于所有其他生成 AI 交互，这是一个电子邮件图标。
  • 主题列：此列中的 [Copilot] 值将策略匹配标识为与基于 Microsoft Copilots 的生成 AI 交互。 此列中的 [AI 应用] 值标识所有其他生成 AI 交互的策略匹配项。
  • 发件人列：邮件的发件人。 根据源 AI 应用程序，发送方按如下所示列出：
    • 如果策略匹配是来自 Copilot 应用程序的响应，则值为 Copilot。
    • 如果策略匹配是来自已连接 AI 应用程序的响应，则值为 Connected AI 应用。
    • 如果策略匹配是来自云 AI 应用程序的响应，则值为 “云 AI 应用”。
  • 收件人列：邮件中包含的收件人。 此值是与 AI 应用程序交互的用户。
  • 消息文本：用户输入的消息文本 (导致策略匹配) 的文本全部显示在屏幕右侧。

创建用于检测Microsoft Copilot交互的策略

为正在使用的门户选择相应的选项卡。 根据 Microsoft 365 计划，Microsoft Purview 合规门户已停用或即将停用。

若要详细了解 Microsoft Purview 门户，请参阅 Microsoft Purview 门户。 若要了解有关合规性门户的详细信息，请参阅 Microsoft Purview 合规门户。

  1. 使用 Microsoft 365 组织中的管理员帐户的凭据登录到 Microsoft Purview 门户 。
  2. 转到 通信合规性 解决方案。
  3. 在左侧导航栏中选择“ 策略 ”。
  4. 选择“创建策略”，然后选择“检测Microsoft Copilot交互”模板。
  5. 输入策略名称，选择要应用策略的用户和组，然后选择策略的审阅者。 从模板创建策略时，详细了解这些选项
  6. 查看基于模板为你选择的设置列表，然后选择“ 创建策略 ”以创建策略，或选择“ 自定义策略 ”（如果要在创建策略之前进行任何更改）。

添加生成 AI 应用作为现有策略的位置

为正在使用的门户选择相应的选项卡。 根据 Microsoft 365 计划，Microsoft Purview 合规门户已停用或即将停用。

若要详细了解 Microsoft Purview 门户，请参阅 Microsoft Purview 门户。 若要了解有关合规性门户的详细信息，请参阅 Microsoft Purview 合规门户。

  1. 使用 Microsoft 365 组织中的管理员帐户的凭据登录到 Microsoft Purview 门户 。

  2. 转到 通信合规性 解决方案。

  3. 在左侧导航栏中选择“ 策略 ”。

  4. 在要更改的策略的行中选择“ 更多操作 (省略号) ，然后选择 ”编辑”。

  5. 在策略创建工作流中选择 “下一步 ”两次，转到 “选择要检测通信的位置 ”页。

  6. 选中以下一个或多个复选框，将生成 AI 应用程序添加为位置：

    • Microsoft Copilot体验
    • 企业 AI 应用
    • 其他 AI 应用

  7. 对策略进行任何其他更改，然后在“ 查看并完成 ”页上，选择“ 保存”。

创建策略以查看所有生成 AI 交互

首次使用生成 AI 交互时，可能需要查看所有 AI 交互，了解组织中的人员如何使用这些应用程序。 若要创建策略以查看所有生成 AI 交互，请在创建或编辑策略时：

  • 请确保将位置设置为包含所有生成 AI 应用程序：

    • Microsoft Copilot体验
    • 企业 AI 应用
    • 其他 AI 应用

  • 确保“选择条件和 审阅百分比 ”页上的“ 审阅百分比 ”选项设置为 100%。

  • 不要为策略设置任何条件。

注意

根据组织的规模，检测所有生成 AI 交互的策略可能会导致大量检测到的消息，这可能导致组织达到其 存储限制。 在这种情况下，可能需要调整策略以减少检测数。

修正包含生成 AI 交互的策略匹配项和警报

可以修正包含生成 AI 交互的策略匹配项和警报，其方式与修正通信合规性中的任何策略匹配或警报的方式相同。 例如，可以标记策略匹配、升级、解析、下载或导出策略匹配项。 详细了解如何解决通信合规性中的策略匹配和警报。

报表

进入通信合规性策略范围的 AI 交互显示在通信合规性报告和审核数据中。 详细了解通信合规性报告和审核。

另请参阅