Présentation

  • 2 minutes

Contoso Camping Store développe de nouvelles fonctionnalités basées sur l’IA pour leur site web afin d’améliorer l’interaction et la sécurité des utilisateurs. En tant que développeur, vous êtes chargé d’intégrer des fonctionnalités Azure AI Sécurité du Contenu à la plateforme du magasin. Votre objectif est de s’assurer que toutes les conversations de support client et le contenu généré par l’utilisateur, tels que les révisions de produits et les images, respectent les directives de contenu de l’entreprise, en favorisant un environnement sûr et inclusif pour tous les utilisateurs. À des fins de test, vous choisissez d’utiliser les fonctionnalités de modération et de sécurité d’Azure AI Studio.

Objectifs d’apprentissage

À l’issue de ce module, vous pourrez :

  • Configurez des filtres et des niveaux de seuil pour bloquer le contenu dangereux.
  • Effectuez une modération de texte et d’image pour le contenu dangereux.
  • Analysez et améliorez les métriques de précision, de rappel et de score F1.
  • Détecter l’intégrité au sol dans la sortie d’un modèle.
  • Atténuer les injections directes et indirectes d’invite.
  • Configurations de filtre de sortie dans le code.

Prérequis