Configuración de una directiva de cumplimiento de comunicaciones para detectar interacciones de IA generativas

Artículo
11/19/2024

Importante

Cumplimiento de comunicaciones de Microsoft Purview proporciona las herramientas para ayudar a las organizaciones a detectar el cumplimiento normativo (por ejemplo, SEC o FINRA) y las infracciones de conducta empresarial, como información confidencial o confidencial, hostigamiento o amenazante del lenguaje y uso compartido de contenido para adultos. Creados con privacidad por diseño, los nombres de usuario se seudonimizan de forma predeterminada, los controles de acceso basados en roles están integrados, los investigadores son admitidos por un administrador y los registros de auditoría están en su lugar para ayudar a garantizar la privacidad del nivel de usuario.

Puede usar el cumplimiento de comunicaciones para analizar las interacciones (mensajes y respuestas) para detectar interacciones inapropiadas o de riesgo o el uso compartido de información confidencial introducida en numerosas aplicaciones de inteligencia artificial generativa.

Estos incluyen Microsoft 365 Copilot, Copilots creados con Microsoft Copilot Studio, aplicaciones de inteligencia artificial conectadas por conectores de Microsoft Entra o Mapa de datos de Microsoft Purview, y mucho más.

Sugerencia

Empiece a trabajar con Microsoft Security Copilot para explorar nuevas formas de trabajar de forma más inteligente y rápida con el poder de la inteligencia artificial. Obtenga más información sobre Microsoft Security Copilot en Microsoft Purview.

compatibilidad con Microsoft Copilot experiencia

El cumplimiento de comunicaciones puede detectar interacciones en cualquier mensaje con el IPM. SkypeTeams.Message.Copilot. clase de elemento de aplicación . Estas incluyen aplicaciones de Copilot en soluciones de Microsoft como Teams, Outlook y muchas más.

Por ejemplo, el cumplimiento de comunicaciones detecta interacciones en los mensajes de Copilot con el IPM. SkypeTeams.Message.Copilot.Teams, IPM. Clases de elementos SkypeTeams.Message.Copilot.Outlook, etc.

Compatibilidad con aplicaciones de IA generativas conectadas

El cumplimiento de comunicaciones puede detectar interacciones de mensajes y respuestas con aplicaciones de IA que no son de Copilot. Se trata de aplicaciones de inteligencia artificial generativas conectadas mediante conectores de Microsoft Entra y Mapa de datos de Microsoft Purview.

Compatibilidad con otras aplicaciones de inteligencia artificial

El cumplimiento de comunicaciones también puede detectar interacciones con las aplicaciones de inteligencia artificial desde el explorador y la actividad de red por parte de los usuarios de su organización. Esto ayuda a detectar interacciones inapropiadas o de riesgo o el uso compartido de información confidencial escrita en aplicaciones de inteligencia artificial fuera de su organización.

Requisitos previos

Para investigar las interacciones de Copilot en el cumplimiento de la comunicación, se le debe asignar uno de los siguientes roles:

Cumplimiento de comunicaciones
Investigadores de cumplimiento de comunicaciones
Analistas de cumplimiento de comunicaciones

También debe estar asignado como revisor de la directiva en el campo Revisores durante la creación de la directiva.

Cómo funciona

Importante

Microsoft se compromete a garantizar que los sistemas de inteligencia artificial (IA) se desarrollen de forma responsable y de maneras que justifiquen la confianza de las personas. Como parte de este compromiso, los equipos de ingeniería de Microsoft Purview están operacionalizando los seis principios básicos de la estrategia de inteligencia artificial responsable de Microsoft para diseñar, compilar y administrar soluciones de inteligencia artificial. Como parte de nuestro esfuerzo por implementar la inteligencia artificial de forma responsable, proporcionamos documentación, acceso basado en roles, atestación de escenarios y mucho más para ayudar a las organizaciones a usar los sistemas de inteligencia artificial de forma responsable.

Puede aprovechar todas las características de cumplimiento de comunicaciones al crear una directiva de cumplimiento de comunicaciones que detecta las interacciones de Microsoft 365 Copilot y Microsoft Copilot, entre las que se incluyen:

Cualquier solicitud o respuesta escrita en una aplicación de IA generativa compatible que coincida con una directiva de cumplimiento de comunicaciones se muestra como una coincidencia de directiva en la página Directivas de la pestaña Pendiente , con entradas independientes para solicitudes y respuestas. Si solo el mensaje o la respuesta coinciden con una directiva, se crea un elemento en la pestaña Pendiente solo para esa coincidencia de directiva. Puede corregir las coincidencias de directivas para las aplicaciones de IA generativas de la misma manera que corrige cualquier otra coincidencia de directiva.

Se muestra la siguiente información para cada elemento de la pestaña Pendiente para las coincidencias de directivas de inteligencia artificial:

Iconos: el icono de Copilot identifica la coincidencia de directivas como una interacción de IA generativa con un Copilot basado en Microsoft Para todas las demás interacciones de IA generativas, se trata de un icono de correo electrónico.
Columna asunto: el valor [Copilot] de esta columna identifica la coincidencia de directivas como una interacción de IA generativa con Copilots basados en Microsoft. El valor de [aplicación de IA] de esta columna identifica la coincidencia de directiva para todas las demás interacciones de IA generativas.
Columna remitente: remitente del mensaje. En función de la aplicación de IA de origen, el remitente aparece como sigue:
- Si la coincidencia de directiva es una respuesta de una aplicación copilot, el valor es Copilot.
- Si la coincidencia de directiva es una respuesta de una aplicación de inteligencia artificial conectada, el valor es Aplicación de IA conectada.
- Si la coincidencia de directiva es una respuesta de una aplicación de inteligencia artificial en la nube, el valor es Aplicación de inteligencia artificial en la nube.
Columna destinatario: destinatarios incluidos en el mensaje. Este valor es el usuario que interactúa con la aplicación de inteligencia artificial.
Texto del mensaje: el texto del mensaje que el usuario escribió (el texto que provocó la coincidencia de directiva) se muestra en el lado derecho de la pantalla en su totalidad.

Creación de una directiva que detecte interacciones Microsoft Copilot

Seleccione la pestaña adecuada para el portal que está usando. Para obtener más información sobre Microsoft Purview portal, consulte Microsoft Purview portal. Para obtener más información sobre el portal de cumplimiento, consulte portal de cumplimiento Microsoft Purview.

Portal Microsoft Purview
Portal de cumplimiento

Inicie sesión en Microsoft Purview portal con las credenciales de una cuenta de administrador de su organización Microsoft 365.
Vaya a la solución de cumplimiento de comunicaciones .
Seleccione Directivas en el panel de navegación izquierdo.
Seleccione Crear directiva y, a continuación, seleccione la plantilla Detectar interacciones Microsoft Copilot.
Escriba el nombre de la directiva, seleccione los usuarios y grupos a los que aplicar la directiva y, a continuación, seleccione los revisores de la directiva. Más información sobre estas opciones al crear una directiva a partir de una plantilla
Revise la lista de opciones elegidas para usted en función de la plantilla y, a continuación, seleccione Crear directiva para crear la directiva o seleccione Personalizar directiva si desea realizar cambios antes de crear la directiva.

Adición de una aplicación de inteligencia artificial generativa como ubicación para una directiva existente

Portal Microsoft Purview
Portal de cumplimiento

Inicie sesión en Microsoft Purview portal con las credenciales de una cuenta de administrador de su organización Microsoft 365.
Vaya a la solución de cumplimiento de comunicaciones .
Seleccione Directivas en el panel de navegación izquierdo.
Seleccione más acciones (puntos suspensivos) en la fila de la directiva que desea cambiar y, a continuación, seleccione Editar.
Seleccione Siguiente dos veces en el Asistente para la creación de directivas para ir a la página Elegir ubicaciones para detectar comunicaciones .
Seleccione una o varias de las casillas siguientes para agregar una aplicación de IA generativa como ubicación:
- experiencias de Microsoft Copilot
- Aplicaciones de inteligencia artificial empresarial
- Otras aplicaciones de inteligencia artificial
Realice cualquier otro cambio en la directiva y, a continuación, en la página Revisar y finalizar , seleccione Guardar.

Creación de una directiva para revisar todas las interacciones de IA generativas

Cuando trabaje por primera vez con interacciones de inteligencia artificial generativa, es posible que desee revisar todas las interacciones de IA para conocer cómo usan estas aplicaciones las personas de su organización. Para crear una directiva para revisar todas las interacciones de IA generativas, al crear o editar la directiva:

Asegúrese de que la ubicación está establecida para incluir todas las aplicaciones de IA generativas:
- experiencias de Microsoft Copilot
- Aplicaciones de inteligencia artificial empresarial
- Otras aplicaciones de inteligencia artificial
Asegúrese de que la opción Porcentaje de revisión de la página Elegir condiciones y porcentaje de revisión está establecida en 100 %.
No establezca ninguna condición para la directiva.

Nota:

En función del tamaño de la organización, una directiva que detecte todas las interacciones de IA generativas podría dar lugar a un gran volumen de mensajes detectados, lo que podría hacer que su organización alcanzara su límite de almacenamiento. En ese caso, es posible que tenga que realizar ajustes en la directiva para reducir el número de detecciones.

Corrección de coincidencias de directivas y alertas que contienen interacciones de IA generativas

Puede corregir las coincidencias de directivas y las alertas que contienen interacciones de IA generativas de la misma manera que corrige cualquier coincidencia de directiva o alerta en cumplimiento de la comunicación. Por ejemplo, puede etiquetar una coincidencia de directiva, escalarla, resolverla, descargarla o exportarla. Obtenga más información sobre la resolución de coincidencias de directivas y alertas en cumplimiento de comunicaciones.

Informes

Las interacciones de inteligencia artificial que se incluyen en el ámbito de una directiva de cumplimiento de comunicaciones aparecen en los informes de cumplimiento de comunicaciones y los datos de auditoría. Obtenga más información sobre los informes de cumplimiento de comunicaciones y las auditorías.

Compartir vía