Come usare gli elenchi di blocchi con il servizio di inferenza del modello di intelligenza artificiale di Azure nei servizi di intelligenza artificiale di Azure
I filtri di contenuto configurabili sono sufficienti per la maggior parte delle esigenze di moderazione dei contenuti. Tuttavia, potrebbe essere necessario filtrare i termini specifici del caso d'uso.
Prerequisiti
Una sottoscrizione di Azure. Se si usano i modelli GitHub, è possibile aggiornare l'esperienza e creare una sottoscrizione di Azure nel processo. Leggere Eseguire l'aggiornamento da modelli GitHub all'inferenza del modello di intelligenza artificiale di Azure se è il caso.
Una risorsa dei servizi di intelligenza artificiale di Azure. Per altre informazioni, vedere Creare una risorsa di Servizi di intelligenza artificiale di Azure.
Un progetto di Azure AI Foundry e l'hub di Azure AI Foundry connessi alla risorsa dei servizi di intelligenza artificiale di Azure.
Una distribuzione modello. Vedere Aggiungere e configurare modelli ai servizi di intelligenza artificiale di Azure per l'aggiunta di modelli alla risorsa.
Nota
Blocklist (anteprima) è supportato solo per i modelli OpenAI di Azure.
Creare un elenco di blocchi
Passare ad Azure AI Foundry e passare al progetto/hub. Selezionare quindi la pagina Sicurezza e sicurezza nel riquadro di spostamento a sinistra e selezionare la scheda Elenchi di blocchi .
Selezionare Crea un elenco di blocchi. Immettere un nome per l'elenco di blocchi, aggiungere una descrizione e selezionare una risorsa OpenAI di Azure a cui connettersi. Selezionare quindi Crea elenco di blocchi.
Selezionare il nuovo elenco di blocchi dopo la creazione. Nella pagina dell'elenco di blocchi selezionare Aggiungi nuovo termine.
Immettere il termine che deve essere filtrato e selezionare Aggiungi termine. È anche possibile usare un'espressione regolare. È possibile eliminare ogni termine nell'elenco di blocchi.
Collegare un elenco di blocchi a una configurazione del filtro contenuto
Quando l'elenco di blocchi è pronto, tornare alla pagina Sicurezza+ Sicurezza e selezionare la scheda Filtri contenuto. Creare una nuova configurazione del filtro contenuto. Verrà aperta una procedura guidata con diversi componenti di sicurezza dei contenuti di intelligenza artificiale.
Nelle schermate Filtro di input e Filtro output attivare o disattivare il pulsante Blocca elenco . È quindi possibile selezionare un elenco di blocchi dall'elenco. Esistono due tipi di elenchi di blocchi: gli elenchi di blocchi personalizzati creati e gli elenchi di blocchi predefiniti forniti da Microsoft, in questo caso un elenco di blocchi Volgarity (inglese).
È ora possibile decidere quali elenchi di blocchi disponibili includere nella configurazione del filtro del contenuto. L'ultimo passaggio consiste nel rivedere e completare la configurazione del filtro del contenuto selezionando Avanti. È sempre possibile tornare indietro e modificare la configurazione. Dopo averla pronta, selezionare un filtro Crea contenuto. La nuova configurazione che include gli elenchi di blocchi può ora essere applicata a una distribuzione.
