Content Safety
Azure AI Content Safety detecta contenido perjudicial generado por usuario y generado por inteligencia artificial en aplicaciones y servicios. Las características de Seguridad del contenido de Azure AI pueden ayudar a garantizar que las reseñas de productos, las publicaciones en foros y las imágenes se ajusten a las directrices de contenido de Contoso Camping Store.
Seguridad del contenido de Azure AI ofrece un conjunto de características diseñadas para supervisar y moderar el contenido en tiempo real. Incluye:
Moderación de texto: Detecta y filtra el contenido nocivo del texto, como la incitación al odio, la violencia o el lenguaje inapropiado.
Moderación de imágenes: Analiza las imágenes para identificar y bloquear contenidos que puedan considerarse inseguros u ofensivos.
Análisis multimodal del contenido: Trabaja con distintos tipos de contenido, asegurando una estrategia integral de seguridad de los contenidos.
Detección de base: Detecta y bloquea la información incorrecta en las salidas de los modelos, asegurando que las respuestas textuales de los modelos de lenguaje de gran tamaño sean objetivas y precisas, basadas en los materiales de origen proporcionados.
Escudos de indicaciones: Analiza las entradas del modelo de lenguaje grande (LLM) y detecta los ataques de indicaciones del usuario y los ataques de documentos.
Detección de material protegido: Identifica y bloquea las salidas que podrían infringir los derechos de autor mediante el examen de coincidencias con un índice de contenido de texto de terceros, incluidas canciones, artículos de noticias, recetas y contenido web seleccionado.
Estas características se basan en modelos de inteligencia artificial de vanguardia que pueden detectar una amplia gama de posibles riesgos, amenazas y problemas de calidad. Identificar estos problemas le ayuda a garantizar un entorno seguro e inclusivo para todos los usuarios del sitio web Contoso Camping Store.