Domande frequenti per l'uso dell'orchestrazione generativa
Queste domande frequenti (FAQ) descrivono l'impatto sull'intelligenza artificiale dell'orchestrazione generativa per gli agenti personalizzati integrati Copilot Studio.
Cos'è un'orchestrazione generativa?
L'orchestrazione generativa consente al tuo agente personalizzato di rispondere alle domande degli utenti con argomenti e/o azioni pertinenti. L'orchestrazione generativa consente conversazioni più naturali inserendo gli input, utilizzando i dettagli della cronologia delle conversazioni. Ad esempio, se chiedi informazioni sul negozio più vicino a Kirkland e poi chiedi il meteo lì, l'orchestrazione deduce che vuoi chiedere il meteo a Kirkland. Il sistema può anche concatenare più azioni o argomenti. Ad esempio, può rispondere "Devo conoscere gli orari di apertura e trovare il negozio più vicino". Quando l'agente non è sicuro dei dettagli, può porre domande di completamento per risolvere l'ambiguità.
Cosa può fare l'orchestrazione generativa?
Con l'orchestrazione generativa, il sistema crea innanzitutto un piano per rispondere alla query dell'utente utilizzando il nome, la descrizione, gli input e gli output degli argomenti e delle azioni disponibili. Fa riferimento anche agli ultimi 10 turni della cronologia della conversazione. Quindi tenta di eseguire il piano compilando i dati richiesti dalla conversazione e contattando l'utente per eventuali dettagli mancanti o ambigui. Il sistema verifica di aver trovato una risposta alla domanda dell'utente prima di rispondergli. In caso contrario, il processo viene ripetuto. Infine, il sistema genera un risposta in base all'output del piano dagli argomenti e/o dalle azioni. Utilizza anche eventuali istruzioni personalizzate per l'agente durante la generazione della risposta finale.
Quali sono gli usi previsti dell'orchestrazione generativa?
Puoi utilizzare questa modalità all'interno dell'agente per creare un agente in grado di rispondere alle query degli utenti in base alla cronologia delle conversazioni, ai nomi e alle descrizioni degli argomenti, nonché ai nomi, alle descrizioni, agli input e agli output delle azioni.
Come viene valutata l'orchestrazione generativa? Quali metriche vengono utilizzate per misurare le prestazioni?
La qualità end-to-end dell'orchestrazione generativa viene valutata in ogni passaggio del processo. La qualità si misura in base alla capacità del sistema di creare ed eseguire un piano che risponda correttamente alla richiesta dell'utente. Il nostro team etichetta manualmente i punteggi di qualità durante la messa a punto. Valutiamo la qualità su varie query, richieste e azioni degli utenti. Valutiamo anche la capacità del sistema di ignorare i contenuti dannosi di utenti e autori e la capacità del sistema di evitare la produzione di contenuti dannosi.
Quali sono i limiti dell'orchestrazione generativa? In che modo gli utenti possono ridurre al minimo l'impatto dei limiti dell'orchestrazione generativa durante l'utilizzo del sistema?
Per ottenere risultati ottimali, assicurati che gli argomenti e le azioni includano descrizioni di alta qualità. Forniamo indicazioni su come scrivere descrizioni di alta qualità nella documentazione Copilot Studio.
Quali fattori operativi e impostazioni consentono un uso efficace e responsabile dell'orchestrazione generativa?
L'orchestrazione generativa è attualmente solo in inglese. Una volta abilitata la modalità generativa all'interno del agente, è possibile testare il sistema per verificarne le prestazioni utilizzando il pannello di test. Puoi anche aggiungere istruzioni personalizzate per il tuo agente per generare la risposta finale.
Cosa sono le azioni e come le utilizza il tuo agente, con la modalità generativa abilitata?
Puoi aggiungere azioni al tuo agente personalizzato per rispondere alle query degli utenti. È possibile utilizzare azioni sviluppate da Microsoft o da terze parti oppure creare azioni personalizzate. Puoi configurare quali azioni utilizzare per l'agente personalizzato. È inoltre possibile modificare il nome, la descrizione, gli input e gli output utilizzati dal sistema.
Quali dati può fornire Copilot Studio alle azioni? Quali autorizzazioni hanno le azioni di Copilot Studio?
Quando l'agente richiama un'azione, l'azione riceve i valori di input specificati dall'azione stessa. I valori di input possono includere parte della cronologia delle conversazioni con l'utente.
Che tipo di problemi potrebbero verificarsi quando si usa Copilot Studio abilitato con le azioni?
Le azioni potrebbero non funzionare sempre come previsto. Possono verificarsi errori durante la preparazione dell'input per l'azione o durante la generazione di una risposta basata sull'output dell'azione. L'agente potrebbe inoltre richiamare l'azione sbagliata per la query dell'utente. Per mitigare il rischio di tali errori quando usi le azioni, assicurati di avere descrizioni di alta qualità, pertinenti e inequivocabili configurate per le azioni nel tuo agente personalizzato.
Quali sono le tutele previste per un'IA responsabile di Copilot Studio?
Sono disponibili molte funzionalità di mitigazione per proteggere gli agenti. Puoi configurare il tuo agente con una serie di conoscenze, azioni e argomenti. Gli agenti non eseguono mai un'azione che non fa parte della loro configurazione. Gli amministratori possono impedire le azioni per gli agenti della tua organizzazione. Se temi che un'azione venga attivata senza conferma, puoi configurare un'azione in modo che venga chiamata solo quando un utente accetta di chiamarla.
Inoltre, disponiamo di classificatori che esaminano l'input del sistema per rilevare contenuti dannosi e attacchi jailbreak. Secondo i nostri test, questi classificatori hanno un alto tasso di successo nel bloccare contenuti dannosi e attacchi jailbreak, mentre hanno anche un alto successo nel non bloccare contenuti non dannosi o un attacco jailbreak. Tuttavia, i classificatori non possono essere perfetti, quindi ci sono rischi che un agente produca contenuti dannosi o risponda a un attacco jailbreak. Questi rischi includono attacchi di prompt injection tra domini, in cui le istruzioni potrebbero essere aggiunte all'output di un'azione o di un'origine di conoscenza che l'agente tenta quindi di seguire.
Infine, è buona norma comunicare agli utenti che l'agente utilizza l'intelligenza artificiale, pertanto il seguente messaggio predefinito informa gli utenti: "Solo perché tu sia consapevole, a volte uso l'intelligenza artificiale per rispondere alle tue domande".