Démarrage rapide : Modérer du texte et des images avec Sécurité du Contenu dans Azure AI Studio

Important

Les éléments marqués (préversion) dans cet article sont actuellement en préversion publique. Cette préversion est fournie sans contrat de niveau de service, nous la déconseillons dans des charges de travail de production. Certaines fonctionnalités peuvent être limitées ou non prises en charge. Pour plus d’informations, consultez Conditions d’Utilisation Supplémentaires relatives aux Évaluations Microsoft Azure.

Dans ce guide de démarrage rapide, vous utilisez le service Azure AI Sécurité du Contenu dans Azure AI Studio pour modérer le texte et les images. Sécurité du Contenu détecte le contenu nuisible généré par l’utilisateur et généré par l’IA dans les applications et les services.

Attention

Certains des exemples de contenu fournis par Azure AI Studio peuvent être choquants. Les exemples d’images sont floutés par défaut. Ils s’adressent à des utilisateurs avertis.

Prérequis

• Un abonnement Azure - En créer un gratuitement
• Une fois que vous avez votre abonnement Azure, créez une ressource Content Safety dans le portail Azure pour obtenir votre clé et votre point de terminaison. Entrez un nom unique pour votre ressource, sélectionnez votre abonnement, puis sélectionnez un groupe de ressources, une région prise en charge et un niveau tarifaire pris en charge. Sélectionnez ensuite Créer.
• Un hub AI Studio dans Azure AI Studio.

Configuration

1. Connectez-vous à Azure AI Studio.
2. Sélectionnez le hub dans lequel vous souhaitez travailler.
3. Dans le menu de navigation de gauche, sélectionnez Services IA. Sélectionnez le panneau Sécurité du Contenu.

Modérer du texte ou des images

Sélectionnez l’un des onglets suivants pour commencer à utiliser Sécurité du Contenu dans Azure AI Studio.

Modérer le contenu d’un texte

Azure AI Studio vous permet de tester rapidement la modération de texte. La fonctionnalité Modérer le contenu du texte prend en compte différents facteurs tels que le type de contenu, les stratégies de la plateforme et l’effet potentiel sur les utilisateurs. Exécutez des tests de modération sur un exemple de contenu. Ensuite, configurez les filtres pour affiner davantage les résultats des tests. Vous pouvez également utiliser une liste de blocage pour ajouter des termes spécifiques que vous voulez détecter et traiter.

1. Sélectionnez le panneau Modérer le contenu du texte dans la page Sécurité du Contenu dans Azure AI Studio.
2. Sélectionnez votre ressource AI Services ou le nom de la ressource Sécurité du contenu dans le menu déroulant.
3. Vous pouvez choisir un exemple de texte préécrit ou écrire votre propre exemple de texte dans le champ d’entrée.
4. Si vous le souhaitez, configurez les filtres de contenu sous l’onglet Configurer les filtres. Utilisez les curseurs pour déterminer le niveau de gravité de chaque catégorie que doit rejeter le modèle. Le service retourne toujours toutes les catégories néfastes détectées, ainsi que le niveau de gravité de chacune (0-Sécurisé, 2-Faible, 4-Moyen, 6-Élevé), mais le résultat Autorisé/Bloqué dépend de la façon dont vous configurez le filtre.
5. Si vous le souhaitez, configurez une liste de blocage avec l’onglet Utiliser une liste de blocage. Vous pouvez choisir une liste de blocage que vous avez déjà créée ou en créer une nouvelle ici. Utilisez le bouton Modifier pour ajouter et supprimer des termes. Vous pouvez empiler plusieurs listes de blocage dans le même filtre.
6. Lorsque vos filtres sont prêts, sélectionnez Exécuter le test.

Modérer le contenu d’une image

Azure AI Studio vous permet de tester rapidement la modération d’image. La fonctionnalité Modérer le contenu de l’image prend en compte différents facteurs tels que le type de contenu, les stratégies de la plateforme et l’effet potentiel sur les utilisateurs. Exécutez des tests de modération sur un exemple de contenu. Configurez les filtres pour affiner davantage les résultats des tests.

1. Sélectionnez le panneau Modérer le contenu de l’image dans la page Sécurité du Contenu dans Azure AI Studio.
2. Sélectionnez votre ressource AI Services ou le nom de la ressource Sécurité du contenu dans le menu déroulant.
3. Vous pouvez utiliser un exemple d’image ou charger votre propre image. La taille maximale pour les envois d’images est de 4 Mo, et les dimensions de l’image doivent être comprises entre 50 x 50 pixels et 2 048 x 2 048 pixels. Les images peuvent être aux formats JPEG, PNG, GIF, BMP, TIFF ou WEBP. Vous avez la possibilité de flouter les images que vous utilisez.
4. Si vous le souhaitez, configurez les filtres de contenu sous l’onglet Configurer les filtres. Utilisez les curseurs pour déterminer le niveau de gravité de chaque catégorie que doit rejeter le modèle. Le service retourne toujours toutes les catégories néfastes détectées, ainsi que le niveau de gravité de chacune (0-Sécurisé, 2-Faible, 4-Moyen, 6-Élevé), mais le résultat Autorisé/Bloqué dépend de la façon dont vous configurez le filtre.
5. Lorsque vos filtres sont prêts, sélectionnez Exécuter le test.

Afficher et exporter du code

Vous pouvez utiliser le bouton Afficher le code en haut de la page des deux scénarios Modérer le contenu du texte et Modérer le contenu d’une image pour afficher et copier l’exemple de code, qui comprend votre configuration du filtrage de gravité, les listes de blocage et les fonctions de modération. Vous pouvez ensuite déployer le code dans votre propre application.

Nettoyer les ressources

Pour éviter la facturation de coûts inutiles, vous devez supprimer les ressources créées dans ce guide de démarrage rapide si elles ne sont plus nécessaires. Pour gérer les ressources, vous pouvez utiliser le Portail Microsoft Azure.

Étapes suivantes

• Créer un projet dans Azure AI Studio
• En savoir plus sur le filtrage de contenu dans Azure AI Studio