Content Safety
Azure AI Content Safety détecte le contenu nuisible généré par l’utilisateur et généré par l’IA dans les applications et les services. Les fonctionnalités d’Azure AI Sécurité du Contenu peuvent vous aider à vous assurer que les révisions de produits, les billets de forum et les images s’alignent sur les instructions en matière de contenu de Contoso Camping Store.
Azure AI Sécurité du Contenu offre une suite de fonctionnalités conçues pour surveiller et modérer le contenu en temps réel. Il inclut :
Modération de texte : Détecte et filtre le contenu nuisible dans le texte, tel que les messages haineux, la violence ou le langage inapproprié.
Modération d’images : Analyse les images pour identifier et bloquer le contenu qui pourrait être considéré comme dangereux ou offensant.
Analyse de contenu multimodal : Fonctionne avec différents types de contenu, garantissant une stratégie complète de sécurité du contenu.
Ancrage Détection: Détecte et bloque les informations incorrectes dans les sorties du modèle, garantissant que les réponses textuelles des grands modèles de langage sont factuelles et précises, en se basant sur les matériaux sources fournis.
Boucliers de prompt : Analyse les entrées de grands modèles de langage (LLM) et détecte les attaques d’invite utilisateur et les attaques de documents.
Détection de matériel protégé : Identifie et bloque les sorties susceptibles de violer les droits d’auteur en analysant des correspondances dans un index de contenus textuels tiers, y compris des chansons, des articles d’actualités, des recettes et des contenus web sélectionnés.
Ces fonctionnalités reposent sur des modèles IA de pointe qui peuvent détecter un large éventail de risques, de menaces et de problèmes de qualité éventuels. L’identification de ces problèmes vous permet de veiller à un environnement inclusif et sécurisé pour tous les utilisateurs du site web de Contoso Camping Store.