智慧應用程式工作負載的性能優化
性能效率是指工作負載有效擴展以滿足使用者對其的需求的能力。 監控智慧應用程式工作負載的性能對於確保其有效運行至關重要。
工作負載團隊需要建立關鍵性能指標,定期審查系統性能,並及時診斷任何問題。 有效的監控和診斷程式有助於維護系統可靠性和用戶滿意度。
定義性能目標
確定關鍵性能指標涉及確定跟蹤實現工作負載性能目標的進度的基本度量。 這些指標提供了一種可量化的方法來衡量和提高性能效率。
在確定要關注的關鍵指標時,請考慮與容量、回覆時間、偏移率以及參與度和結果相關的指標:
容量:輸送量和併發性是示例容量指標。 輸送量 是指在給定時間段內處理特定數量的事務的能力。 例如,副駕駛每月可能處理 200,000 個聊天會話。 還要考慮季節性變化和併發對話的預期最大峰值。 併發 性是同時使用使用者或操作的度量。 例如,在旺季期間,副駕駛最多可以處理 5,000 個併發聊天。 瞭解目標卷有助於驗證目標架構和擴展。
回覆時間:延遲和載入時間是常見的回覆時間指標。 延遲 是回應請求所需的時間 (200 毫秒)。 載入時間 是 Copilot 變為活動狀態並回應第一條消息所需的時間。 瞭解 Copilot 回答查詢的預期最大延遲,並定義處理長時間運行的操作的方法 (例如,等待外部系統返回數據)。
偏轉率:在對話式 AI 的上下文中, 偏轉 是一個指標,表示以自助方式完成的請求的百分比,否則這些請求將由即時代理處理。 換句話說,它是指由於自動化而團隊不再需要處理的任務數量。 優化 Copilot 偏轉率是組織實現其業務目標的首要關注領域之一,從投資回報率 (ROI) 和客戶滿意度 (CSAT) 到提高 Copilot 的整體性能。 Copilot Studio 提供 Copilot 性能的概述,包括解決率、升級率和 CSAT 等關鍵指標。
參與度和結果:跟蹤對話參與度和結果是衡量 Copilot 績效指標和確定需要改進的領域的關鍵。 在衡量 copilot 參與度 和 衡量 copilot 結果 中瞭解更多資訊。
性能規劃
工作負載中的資源具有效能限制。 效能限制適用於每個服務中的功能。 您需要瞭解工作負載中資源的局限性,並將這些限制納入設計決策。 例如,您應該知道資源限制是否要求您更改設計方法或完全更改資源。
- 瞭解目標卷。 目標卷有助於驗證目標架構和規模、副駕駛的許可方面以及對 Dataverse 對話記錄存儲的潛在影響。
- 瞭解 平臺限制。 在將智慧應用程式工作負載與外部系統集成時 (例如,通過 Power Automate 或 HTTP 請求),驗證每個元件是否可以處理負載非常重要。
- 識別瓶頸。 測量輸送量和回覆時間,以識別隨著工作負載的增長而可能出現問題的系統元件。 通過使用流程挖掘分析功能 (如返工和根本原因分析) 來識別端到端流程中的瓶頸。
瞭解更多: 績效規劃建議
效能監控
效能最佳化需要資料來根據其效能目標衡量工作負載或流的當前效能。 收集足夠數量和種類的數據,以根據設定的性能目標準確衡量代碼和基礎設施的性能。 確保工作負載中的每個元件和流自動生成連續且有意義的指標和記錄。
警惕地監控智慧應用程式工作負載的性能,以確保其以最高效率和效率運行。
Copilot Studio 提供全面的 開箱即用 分析,讓您瞭解 Copilot 的使用方式和關鍵績效指標。
您可以檢視與以下內容相關的報告:
- 效能和使用方式
- 客戶滿意度
- 工作階段資訊
- 主題使用方式
- 計費工作階段
除了其中 Copilot Studio的本機分析功能外,您還可以將遙測數據 Application Insights發送到。 有關詳細資訊,請參閱 捕獲遙測數據。 Application Insights 使用 Azure Monitor、Log Analytics Application Insights 和警報等工具持續監視性能並檢測異常。
定義您打算監控以衡量智慧應用程式工作負載成功的關鍵績效指標 (KPI),例如參與率、解決率和偏轉率。 首先,查看本機控制面板以瞭解可用數據。 然後,確定創建自定義報表是否更能滿足您的特定需求。
深入了解:
持續性能優化
主動優化性能涉及實施措施,以便在出現任何問題之前改進和增強工作負載的性能。 主動措施包括識別潛在瓶頸、監控性能指標和實施優化,以確保工作負載高效運行並滿足性能目標。
要不斷增強您的智慧應用程式工作負載,請安排定期審查 Copilot 的性能:
性能指標 | 定義 |
---|---|
結案率 | 由 Copilot 成功解決而無需升級到人工代理的使用者請求的百分比。 |
參與率 | 參與會話總數的百分比。 當使用者以有意義的方式 (例如觸發非系統主題、升級會話或調用後援主題) 與 Copilot 交互時,會話被視為參與。 |
放棄率 | 在未達成解決方案或升級的情況下結束的參與會話的百分比。 從本質上講,它衡量用戶在問題得到解決或上報給人工代理之前離開或停止與 Copilot 交互的頻率。 |
升級率 | 升級到人工代理的參與會話的百分比。 此指標是瞭解 copilot 無法自行解決用戶查詢並需要人工干預的頻率的關鍵。 |
無法識別的話語 | 當 Copilot 的自然語言理解 (NLU) 模型無法將使用者輸入與任何預定義的意圖或主題匹配時發生。 系統無法根據提供的輸入確定使用者的意圖。 |
CSAT | 客戶滿意度。 |
低解析度的主題 | 指經常無法有效解決使用者查詢的對話主題。 這些主題通常會導致使用者不滿、放棄或上報給人工代理。 |
此評審有助於確定 Copilot 更新的積壓優先順序。 例如,如果未識別的話語經常升級到人工代理,請藉此機會改進 deflection。 分析發射鍵回退和無法識別的話語的使用者模式,並訓練現有主題或創建新主題,以使 Copilot 能夠更好地滿足使用者需求。
深入了解: