Monitoraggio degli usi impropri nel rilevamento liveness di Viso
Il rilevamento liveness di Viso di Azure AI consente di rilevare e attenuare le istanze di contenuto ricorrente e/o comportamenti che indicano una violazione del Codice di comportamento o di altre condizioni del prodotto applicabili. Questa guida illustra come usare queste funzionalità per garantire che l'applicazione sia conforme ai criteri di Azure.
Informazioni dettagliate sulla modalità di gestione dei dati sono disponibili nella pagina Dati, privacy e sicurezza.
Importante
Gli SDK del client Viso per lo stato attivo (attività viso) sono una funzionalità gestita. È necessario richiedere l'accesso alla funzionalità di attività compilando il modulo di acquisizione del riconoscimento del volto. Quando alla sottoscrizione di Azure viene concesso l'accesso, è possibile scaricare l’SDK di attività del viso.
Componenti del monitoraggio degli abusi
Esistono diversi componenti per il degli usi impropri nel rilevamento liveness di Viso:
- Gestione delle sessioni: il sistema dell'applicazione back-end crea sessioni di rilevamento liveness per conto degli utenti finali. Il servizio Viso rilascia i token di autorizzazione per una determinata sessione e ognuno è valido per un numero limitato di chiamate API. Quando l'utente finale rileva un errore durante il rilevamento liveness, viene richiesto un nuovo token. Ciò consente all'applicazione back-end di valutare il rischio di nuovi tentativi di liveness. Un numero eccessivo di tentativi può indicare un tentativo antagonista di forza bruta di ignorare il sistema di rilevamento liveness.
- Identificatore di correlazione temporaneo: il processo di creazione della sessione richiede di assegnare un GUID (identificatore univoco globale) di correlazione a 128 bit temporaneo per ogni utente finale del sistema dell'applicazione. In questo modo è possibile associare ogni sessione a un singolo utente. I modelli di classificatore nel back-end del servizio possono rilevare segnali di attacco di presentazione e osservare i criteri di errore nell'utilizzo di un particolare GUID. Questo GUID deve essere reimpostabile su richiesta per supportare l'override manuale del sistema di mitigazione automatizzato degli usi impropri.
- Acquisizione dei criteri di uso improprio: il servizio di rilevamento liveness di Viso di Azure AI esamina i criteri di utilizzo dei clienti e usa algoritmi ed euristiche per rilevare indicatori di potenziali usi impropri. I criteri rilevati considerano, ad esempio, la frequenza e la gravità del contenuto di attacco di presentazione rilevato nell'acquisizione di immagini di un cliente.
- Revisione umana e decisione: quando gli identificatori di correlazione vengono contrassegnati tramite l'acquisizione di criteri di uso improprio, come descritto in precedenza, non è possibile creare altre sessioni per tali identificatori. È consigliabile consentire ai dipendenti autorizzati di valutare i criteri di traffico e confermare o eseguire l'override della determinazione in base a linee guida e criteri predefiniti. Se la revisione umana conclude che è necessario un override, occorre generare un nuovo GUID di correlazione temporaneo per il singolo utente per generare più sessioni.
- Notifica e azione: quando una soglia di comportamento offensivo è stata confermata in base ai passaggi precedenti, il cliente deve essere informato della determinazione tramite posta elettronica. Ad eccezione dei casi di uso improprio grave o ricorrente, i clienti in genere hanno la possibilità di spiegare o correggere e implementare meccanismi per prevenire la ricorrenza del comportamento improprio. La mancata risoluzione del comportamento o un uso improprio ricorrente o grave può comportare la sospensione o la chiusura dell'idoneità all'accesso limitato per le risorse e/o le funzionalità di Viso di Azure AI.