Monitoramento de abuso na deteção de vivacidade facial
A deteção de vivacidade do Azure AI Face permite-lhe detetar e mitigar instâncias de conteúdo e/ou comportamentos recorrentes que indicam uma violação do Código de Conduta ou de outros termos de produto aplicáveis. Este guia mostra como trabalhar com esses recursos para garantir que seu aplicativo esteja em conformidade com a política do Azure.
Detalhes sobre como os dados são tratados podem ser encontrados na página Dados, Privacidade e Segurança .
Importante
Os SDKs do cliente Face para vivacidade são um recurso fechado. Você deve solicitar acesso ao recurso de vivacidade preenchendo o formulário de admissão de Reconhecimento Facial. Quando sua assinatura do Azure tiver acesso concedido, você poderá baixar o SDK de vivacidade do Face.
Componentes da monitorização de abusos
Existem vários componentes para o monitoramento de abuso de vivacidade facial:
- Gerenciamento de sessão: seu sistema de aplicativo de back-end cria sessões de deteção de vivacidade em nome de seus usuários finais. O serviço Face emite tokens de autorização para uma sessão específica, e cada um é válido para um número limitado de chamadas de API. Quando o usuário final encontra uma falha durante a deteção de vivacidade, um novo token é solicitado. Isso permite que o aplicativo de back-end avalie o risco de permitir mais tentativas de vivacidade. Um número excessivo de tentativas pode indicar uma tentativa adversária de força bruta de contornar o sistema de deteção de vivacidade.
- Identificador de correlação temporário: o processo de criação da sessão solicita que você atribua um GUID de correlação temporário de 128 bits (identificador global exclusivo) para cada usuário final do seu sistema de aplicativo. Isso permite associar cada sessão a um indivíduo. Os modelos de classificador no back-end de serviço podem detetar pistas de ataque de apresentação e observar padrões de falha no uso de um GUID específico. Esse GUID deve ser reinicializável sob demanda para suportar a substituição manual do sistema automatizado de mitigação de abuso.
- Captura de padrão de abuso: o serviço de deteção de vivacidade facial do Azure AI analisa os padrões de uso do cliente e emprega algoritmos e heurísticas para detetar indicadores de abuso potencial. Os padrões detetados consideram, por exemplo, a frequência e a gravidade com que o conteúdo do ataque de apresentação é detetado na captura de imagem de um cliente.
- Revisão e decisão humana: Quando os identificadores de correlação são sinalizados por meio da captura de padrão de abuso, conforme descrito acima, nenhuma sessão adicional pode ser criada para esses identificadores. Você deve permitir que funcionários autorizados avaliem os padrões de tráfego e confirmem ou substituam a determinação com base em diretrizes e políticas predefinidas. Se a revisão humana concluir que uma substituição é necessária, você deve gerar um novo GUID de correlação temporária para o indivíduo, a fim de gerar mais sessões.
- Notificação e ação: Quando um limiar de comportamento abusivo tiver sido confirmado com base nas etapas anteriores, o cliente deve ser informado da determinação por e-mail. Exceto em casos de abuso grave ou recorrente, os clientes normalmente têm a oportunidade de explicar ou remediar e implementar mecanismos para evitar a recorrência do comportamento abusivo. A falha em abordar o comportamento, ou abuso recorrente ou grave, pode resultar na suspensão ou encerramento da sua elegibilidade de Acesso Limitado para recursos e/ou capacidades do Azure AI Face.