FAQ sur les réponses génératives
Ces questions fréquemment posées (FAQ) décrivent l’effet IA de la fonction de réponses génératives Copilot Studio.
En quoi consistent les réponses génératives ?
Les réponses génératives rendent votre agent précieux dès la sortie de la boîte et augmentent le nombre de sujets dans lesquels votre agent est conversationnel, sans nécessiter de création manuelle d’arbre de dialogue.
Quelles sont les capacités des réponses génératives ?
Lorsqu’un utilisateur pose au agent une question qui ne contient pas de rubrique configuré, le agent peut éventuellement rechercher du contenu pertinent à partir d’une source de votre choix. Cette recherche inclut les sites Web publics, SharePoint ou vos propres sources de données personnalisées, y compris les images intégrées dans les fichiers PDF. Le agent utilise l’IA générative pour résumer ces informations dans un réponse renvoyé à l’utilisateur agent.
Note
Depuis septembre 2024, les agents peuvent également raisonner sur des éléments non textuels dans des fichiers téléchargés, tels que des images, des données tabulaires et des diagrammes.
Quelle est l’utilisation prévue des réponses génératives ?
Les réponses génératives peuvent être utilisées comme sources d’informations principales dans votre agent, ou comme solution de secours lorsque les sujets rédigés ne sont pas en mesure de répondre à la requête d’un utilisateur.
Comment les réponses génératives ont-elles été évaluées et quelles mesures sont utilisées pour mesurer les performances ?
La capacité est continuellement évaluée sur une collection d’ensembles de données de questions et réponses sélectionnés manuellement, couvrant plusieurs secteurs. Une évaluation supplémentaire est effectuée sur des ensembles de données personnalisés pour les invites et réponses offensantes et malveillantes, via des sessions manuelles automatisées et dédiées conçues pour étendre la suite de tests.
Quelles sont les limitations des réponses génératives et comment les utilisateurs peuvent-ils réduire l’impact des limitations lorsqu’ils utilisent des réponses génératives ?
Vous devez activer l’option réponses génératives pour chaque agent.
Voir Prise en charge des langues pour connaître la liste des langues prises en charge par cette fonctionnalité et leur étape respective. Vous pourrez peut-être utiliser d’autres langues, mais les réponses générées pourraient être incohérentes et le agent pourrait ne pas répondre correctement ou comme vous l’attendez.
Cette fonctionnalité pourrait être soumise à des limites d’utilisation ou à une limitation de capacité.
Les réponses générées par la fonctionnalité Réponses génératives ne sont pas toujours parfaites et peuvent contenir des erreurs.
Le système est conçu pour interroger les connaissances du site web de votre choix et pour regrouper les résultats pertinents dans une réponse facilement consommable. Cependant, il est important de garder à l’esprit certaines caractéristiques de l’IA qui pourraient générer des réponses inattendues :
Le corpus sur lequel le modèle a été formé n’inclut pas les données créées après 2021.
Il existe des mesures d’atténuation pour empêcher le modèle d’utiliser son corpus de formation comme source pour les réponses : toutefois, il est possible que les réponses incluent du contenu de sites Web autres que celui que vous avez sélectionné.Le système n’effectue pas de vérification de précision, donc si le source de données sélectionné contient des informations inexactes, il pourrait être affiché aux utilisateurs de votre agent. Nous avons mis en œuvre des mesures d’atténuation pour filtrer les réponses non pertinentes et offensantes, et la fonctionnalité est conçue pour ne pas répondre lorsqu’un langage offensant est détecté. Ces filtres et mesures d’atténuation ne sont pas infaillibles.
Note
Vous devez toujours tester et évaluer vos agents avant de les publier, et envisager de recueillir les commentaires des utilisateurs de votre agent. Votre administrateur peut désactiver la possibilité de publier des agents avec des réponses génératives pour votre locataire dans Power Platform Centre d’administration.
Quelles données la fonctionnalité recueille-t-elle ? Comment les données sont-elles utilisées ?
La fonctionnalité recueille les invites de l’utilisateur, les réponses renvoyées par le système et tout commentaire que vous fournissez.
Nous utilisons ces données afin d’évaluer et d’améliorer la qualité de la fonctionnalité. En savoir plus sur les données recueillies : consultez les conditions de la version préliminaire.
Quels facteurs et paramètres opérationnels permettent une utilisation efficace et responsable des réponses génératives ?
Les réponses génératives fonctionnent mieux lorsque vous désignez une source fiable et valide à partir de laquelle le contenu doit être interrogé. Cette source peut être le site Web de votre entreprise, par exemple www.microsoft.com. Toutes les pages Web appartenant à ce domaine sont recherchées pour trouver une correspondance avec la question de l’utilisateur.
Nous utilisons les commentaires que vous fournissez sur votre satisfaction concernant les réponses générées pour améliorer la qualité du système. Vous pouvez fournir des commentaires en sélectionnant les icônes de pouce vers le haut ou de pouce vers le bas pour les réponses générées. Vous pouvez également inclure davantage de commentaires sous forme de texte libre.
Quelles protections sont en place pour une IA responsable ? Copilot Studio
Les réponses génératives incluent diverses protections pour garantir aux administrateurs, aux créateurs et aux utilisateurs une expérience sûre et conforme. Les administrateurs ont un contrôle total sur les fonctionnalités de leur locataire et peuvent toujours désactiver la possibilité de publier des agents avec des réponses génératives dans votre organisation. Les créateurs peuvent ajouter des instructions personnalisées pour influencer les types de réponses renvoyées par leurs agents. Pour plus d’informations sur les bonnes pratiques en matière de rédaction d’instructions personnalisées, consultez Utiliser la modification d’invite pour fournir des instructions personnalisées à votre agent.
Les créateurs peuvent également limiter les sources de connaissances que les agents peuvent utiliser pour répondre aux questions. Pour permettre aux agents de répondre à des questions en dehors du champ d’application de leurs sources de connaissances configurées, les créateurs peuvent activer la fonctionnalité Connaissances générales de l’IA . Pour limiter les agents à répondre uniquement aux questions liées à leurs sources de connaissances configurées, les créateurs doivent désactiver cette fonctionnalité.
Copilot Studio applique également des politiques de modération de contenu sur toutes les demandes d’IA génératives adressées aux administrateurs, créateurs et utilisateurs de protéger contre les contenus offensants ou nuisibles. Ces politiques de modération de contenu s’étendent également aux tentatives malveillantes de jailbreaking, d’injection rapide, d’exfiltration rapide et de violation du droit d’auteur. Tout le contenu est vérifié deux fois : une première fois lors de la saisie de l’utilisateur et une autre fois lorsque le agent est sur le point de répondre. Si le système détecte un contenu nuisible, offensant ou malveillant, il empêche votre agent de répondre.
Enfin, il est recommandé de communiquer aux utilisateurs que le agent utilise l’intelligence artificielle. Par conséquent, le message par défaut suivant informe les utilisateurs : "Pour votre information, j’utilise parfois l’IA pour répondre à vos questions. »