Obtención de contexto de usuario final para alertas de IA
La protección contra amenazas de Microsoft Defender for Cloud para cargas de trabajo de inteligencia artificial permite mejorar la capacidad de acción y el valor de seguridad de las alertas de IA generadas al proporcionar contexto de usuario final.
Agregue parámetros a las llamadas API de Azure OpenAI, para permitir que Azure AI pase el contexto crítico del usuario final a las alertas de IA de Defender for Cloud. Este contexto del usuario final proporciona mayor visibilidad sobre los usuarios finales y conduce a investigaciones y resultados más eficaces. Por ejemplo, puede bloquear un usuario específico o correlacionar incidentes y alertas por parte del usuario final.
Requisitos previos
Léalo en Información general: protección contra amenazas de la IA.
Habilite la protección contra amenazas para cargas de trabajo de inteligencia artificial (versión preliminar) en una aplicación de IA, con Azure OpenAI como modelo subyacente, directamente a través del servicio Azure OpenAI. Tenga en cuenta que esta característica no se admite actualmente al aprovechar los modelos implementados mediante la API de inferencia de modelos de Azure AI.
Adición de parámetros de seguridad a la llamada de Azure OpenAI
Para recibir alertas de seguridad de inteligencia artificial con más contexto, puede agregar cualquiera o todos los parámetros de ejemplo siguientes SecurityContext a las llamadas API de Azure OpenAI.
Todos los campos del SecurityContext son opcionales. Se recomienda pasar los campos EndUserId y SourceIP como mínimo. Los campos EndUserId y SourceIP proporcionan a los analistas del centro de operaciones de seguridad (SOC) la capacidad de investigar incidentes de seguridad que implican recursos de inteligencia artificial y aplicaciones de IA generativas. Para obtener ejemplos, consulte el esquema SecurityContext.
Si se ha escrito mal el nombre de un campo, la llamada a la API de Azure OpenAI se realizará correctamente. El esquema de SecurityContext no requiere validación para pasar por el campo de usuario de Azure OpenAI. Los desarrolladores de aplicaciones deben asegurarse de que se pasa un JSON válido al campo user en todas las solicitudes realizadas por la aplicación a Azure OpenAI.
Esquema SecurityContext
El esquema proporcionado consta de los objetos SecurityContext que contiene varios parámetros que describen la propia aplicación y el usuario final que interactúa con la aplicación. Estos campos ayudan a los equipos de operaciones de seguridad a investigar y mitigar los incidentes de seguridad al proporcionar un enfoque integral para proteger las aplicaciones de inteligencia artificial.
Id. de usuario final
Tipo de usuario final
Id. del inquilino del usuario final
Dirección IP de origen
Encabezados de solicitud de origen
Nombre de la aplicación
| Nombre de campo | Tipo | Descripción | Opcionales | Ejemplo |
|---|---|---|---|---|
| EndUserId | string | Actúa como un identificador único para el usuario final dentro de la aplicación de IA generativa. Si se usa la autorización de Microsoft Entra ID para autenticar a los usuarios finales en la aplicación de IA generativa, debe ser un identificador de objeto de usuario de Microsoft Entra ID (anteriormente conocido como Azure Active Directory). | Sí | 1234a123-12a3-1234-1ab2-a1b2c34d56e |
| EndUserIdType | string | Especifica el tipo de identificador de usuario final. Debe establecerse en Microsoft Entra ID al usar el identificador de objeto de usuario de Microsoft Entra (anteriormente conocido como Azure Active Directory). | Sí, a menos que se pase EndUserId, en ese caso debe establecerse en el valor adecuado. | Microsoft Entra ID |
| EndUserTenantId | string | Esta propiedad especifica el identificador de inquilino de Microsoft 365 al que pertenece el usuario final. Es necesario cuando la aplicación de IA generativa es multiinquilino y los usuarios finales de distintos inquilinos pueden iniciar sesión. | Sí | 1234a123-12a3-1234-1ab2-a1b2c34d56e |
| SourceIP | string | Captura la dirección IP del cliente tal como la ve directamente el servidor. Representa la dirección IP de cliente más inmediata que realizó la conexión al servidor. Si el cliente se conecta a través de un proxy o un equilibrador de carga, SourceIP es la dirección IP de ese proxy o equilibrador de carga, no la dirección IP del cliente original: - ASP.NET: HttpContext.Connection.RemoteIpAddress - Python: request.remote_addr |
Sí | 12.34.567.891, 1234:1:123a:123:1a2b:ab1:ab1c:ab12 |
| SourceRequestHeaders | Dictionary<string, string> | Captura un subconjunto de encabezados de solicitud del usuario final que agregan servidores proxy o equilibradores de carga. Microsoft Defender for Cloud usa encabezados como X-Forwarded-For, X-Real-IP o Forwarded para obtener la dirección IP del cliente original. Los encabezados User-Agent proporcionan contexto sobre el software cliente que inicia la solicitud de API. Entre los nombres de encabezado recomendados se incluyen: User-Agent, X-Forwarded-For, X-Real-IP, Forwarded, CF-Connecting-IP, True-Client-IP, X-Client-IP, X-Forwarded, Forwarded-For |
Sí | - |
| ApplicationName | string | Nombre de la aplicación, que se usa con fines de identificación e interfaz de usuario. | Sí | Contoso HR Copilot, bot de chat de ventas de clientes. |
Adición de SecurityContext a la aplicación
Se recomienda agregar todos los parámetros proporcionados en este documento a las llamadas API de la aplicación de IA generativa a Azure OpenAI.
Seleccione uno de estos ejemplos:
Busque y copie el código de ejemplo.
Agregue el código al código de la aplicación de IA generativa donde se llama a la API de Azure OpenAI.
Modifique los parámetros de código para que coincidan con sus requisitos.
Guarde los cambios.
Después de seguir el procedimiento, debe asegurarse de que se pasa un JSON válido al campo user en todas las solicitudes realizadas por la aplicación a Azure OpenAI.