使用生成式協調流程的常見問題集
這些常見問題 (FAQ) 說明了 Copilot Studio 中生成式協調流程對內建自訂代理程式的 AI 影響。
什麼是生成式協調流程？
生成式協調流程可讓您的自訂代理程式透過相關主題和/或動作回答使用者查詢。 生成式協調流程會透過使用交談記錄中的詳細資訊填入輸入，以實現更自然的交談。 例如，如果您詢問柯克蘭最近的商店，然後詢問那裡的天氣，協調流程會推斷您想要詢問柯克蘭的天氣。該系統還可以將多個動作或主題連結在一起。 例如，它可以回答「我需要了解商店營業時間並找到最近的商店」。當代理程式不確定細節時，可以提出後續問題來消除歧義。
生成式協調流程有何功能？
透過生成式協調流程，系統首先使用可用主題和動作的名稱、描述、輸入和輸出建立一個計劃來回答使用者查詢。 它還會參考最近 10 輪的交談記錄。 然後，它會嘗試透過填寫交談中所需的輸入來執行計劃，並跟進使用者是否有任何缺失或模糊的細節。 系統在回覆使用者之前，會檢查是否找到了使用者問題的答案。 如果沒有，系統會再次執行該程序。 最後，系統會根據主題和/或動作的計畫輸出生成回覆。 在產生最終回應時，它還會使用代理程式的任何自訂指令。
生成式協調流程的預定用途是什麼？
您可以在代理程式中使用此模式來建立一個代理程式，該代理程式可以根據交談歷史記錄、主題的名稱和描述以及動作的名稱、描述、輸入和輸出來回答使用者查詢。
如何評估生成式協調流程？ 用來衡量效能的計量是什麼？
在流程的每個步驟中都會評估生成式協調流程的端對端品質。 品質是根據系統建立和執行成功解決使用者查詢的計劃的程度來衡量。 我們的團隊在微調期間手動標記品質分數。 我們根據各種使用者查詢、提示和動作來評估品質。 我們也評估系統在忽略使用者和作者的惡意內容方面的表現，以及系統避免有害內容的程度。
生成式協調流程有哪些限制？ 使用者在使用系統時，如何才能將生成式協調流程限制的影響降到最低？
為了獲得最佳效果，請確保您的主題和動作包含高品質的描述。 我們在 Copilot Studio 文件中提供了如何撰寫高品質描述的指南。
為了有效並負責任地使用生成式協調流程，應顧及哪些操作因素和設定？
生成式協調流程目前僅支援英文。 在代理程式中啟用生成式模式後，您可以使用測試面板測試系統以查看其效能如何。 您也可以為代理程式新增自訂說明，以協助產生最終回應。
什麼是動作，啟用生成模式後，代理程式將如何使用它們？
您可以為自訂代理程式新增動作來回答使用者查詢。 您可以使用 Microsoft 或協力廠商開發的動作，也可以建立自己的動作。 您可以設定要設定的自訂代理程式要使用的動作。 您還可以編輯系統使用的名稱、描述、輸入和輸出。
Copilot Studio 可以為動作提供哪些資料？ Copilot Studio 動作有哪些權限？
當您的代理程式呼叫某個動作時，該動作會接收該動作指定的輸入值。 輸入值可以包括與使用者的一些交談歷史。
使用啟用了動作的 Copilot Studio 時，可能會出現哪些類型的問題？
行動可能並不總是按預期進行。 準備動作的輸入或根據動作的輸出產生回應時可能會發生錯誤。 您的代理程式也可能對使用者查詢呼叫錯誤的動作。 為了降低使用動作時發生此類錯誤的風險，請確保為自訂代理程式中的動作設定高品質、相關且明確的描述。
Copilot Studio 對負責任 AI 採取了哪些保護措施？
有許多緩解功能可以保護您的代理程式。 您可以使用一組知識、動作和主題來設定代理程式。 代理程式絕不會執行不屬於其設定的動作。 管理員可以禁止組織中的代理程式執行動作。 如果您擔心某個動作在未經確認的情況下被觸發，您可以將某個動作設定為僅在使用者同意呼叫時才呼叫。
此外，我們還有分類器，可以查看系統的輸入以偵測有害內容和越獄攻擊。 根據我們的測試，這些分類器在阻止有害內容和越獄攻擊方面具有很高的成功率，同時在不阻止無害內容或越獄攻擊方面也具有很高的成功率。 然而，分類器不可能是完美的，因此代理程式存在產生有害內容或回應越獄攻擊的風險。 這些風險包括跨域提示注入攻擊，其中可以將指令新增至代理程式嘗試遵循的動作或知識來源的輸出。
最後，最佳做法是向使用者傳達代理程式使用 AI 的訊息，因此以下預設訊息會通知使用者：「請您注意，我有時會使用 AI 來回答您的問題。」