Uso de las listas de bloqueados con el servicio de inferencia de modelos de Azure AI en los servicios de Azure AI
Los filtros de contenido configurables son suficientes para la mayoría de las necesidades de moderación de contenido. No obstante, es posible que tenga que filtrar los términos específicos de su caso de uso.
Requisitos previos
Suscripción a Azure. Si usa Modelos de GitHub, puede actualizar la experiencia y crear una suscripción de Azure en el proceso. Lea Actualización de modelos de GitHub a la inferencia de modelos de Azure AI si es su caso.
Recurso de Servicios de Azure AI. Para más información, vea Creación de un recurso de Servicios de Azure AI.
Un proyecto de Fundición de IA de Azure y del Centro de Fundición de IA de Azure conectado al recurso de servicios de Azure AI.
Una implementación de modelos. Consulte Incorporación y configuración de modelos a los servicios de Azure AI para agregar modelos al recurso.
Nota:
La lista de bloqueados (versión preliminar) solo se admite para los modelos de Azure OpenAI.
Creación de una lista de bloqueados
Vaya a Azure AI Foundry y diríjase a su proyecto o centro. A continuación, seleccione la página Protección y seguridad en el panel de navegación izquierdo y seleccione la pestaña Listas de bloqueados.
Seleccione Crear una lista de bloqueados. Escriba un nombre para la lista de bloqueados, agregue una descripción y seleccione un recurso de Azure OpenAI al que conectarse. A continuación, seleccione Crear lista de bloqueados.
Seleccione la nueva lista de bloqueados una vez creada. En la página de la lista de bloqueados, seleccione Agregar nuevo término.
Escriba el término que se debe filtrar y seleccione Agregar término. También puede usar una expresión regular. Puede eliminar cada término de la lista de bloqueados.
Adjuntar una lista de bloqueados a una configuración de filtros de contenido
Una vez que la lista de bloqueados esté lista, vuelva a la página Protección y seguridad y seleccione la pestaña Filtros de contenido. Cree una nueva configuración de filtros de contenido. Se abre un asistente con varios componentes de seguridad de contenido de IA.
En las pantallas Filtro de entrada y Filtro de salida, active el botón Lista de bloqueados. A continuación, puede seleccionar una lista de bloqueados de la lista. Hay dos tipos de listas de bloqueados: las listas de bloqueados personalizadas que haya creado y las listas de bloqueados precompiladas que proporciona Microsoft, en este caso una lista de bloqueados de palabras soeces (en inglés).
Ahora puede decidir cuál de las listas de bloqueados disponibles desea incluir en la configuración de filtrado de contenido. El último paso es revisar y finalizar la configuración de filtrado de contenido seleccionando Siguiente. Siempre puede volver y editar la configuración. Cuando esté listo, seleccione Crear filtro de contenido. La nueva configuración que incluye sus listas de bloqueados ahora se puede aplicar a una implementación.
