共用方式為

智慧應用程式工作負載的設計原則

  • 發行項

有關規劃、開發和維護智慧應用程式工作負載的指導建立在 Well-Architected 及其卓越架構的五大支柱之上 Power Platform 。

Well-Architected 支柱 綜合
可靠性 智慧應用程式工作負載需要架構圖層的彈性，以確保 AI 模型和工作流具有高可用性，並且可以從故障中快速恢復。 實現健壯的錯誤處理機制。 彈性架構還可以保持 AI 模型使用的數據的完整性，確保一致和準確的輸出。
安全 智慧應用程式工作負載通常處理敏感數據。 保護 AI 模型使用和生成的敏感數據。 實施加密、訪問控制和定期安全審計。 確保工作負載符合相關法規標準，例如 GDPR (一般資料保護規定) 和 HIPAA (健康保險流通與責任法案)，以保護使用者隱私和數據。
性能效率 智慧應用程式工作負載必須設計為能夠隨著數據量和使用者需求的增加而無縫擴展。 確定關鍵性能指標並實施監控，以跟蹤實現工作負載性能目標的進度。 在智慧應用程式工作負載的上下文中，性能還考慮了可以通過自助服務完成的請求和交互的數量，否則這些請求和交互需要人工干預。
卓越運營 智慧應用程式工作負載需要全面的監控和日誌記錄，以跟蹤 AI 模型、工作流和對話的性能和運行狀況。 監控有助於快速識別和解決問題。 卓越運營支柱建議使用自動化來簡化運營，減少人工干預，並最大限度地降低人為錯誤的風險。
體驗優化 智慧應用程式工作負載應優先考慮對話設計，以確保使用者友好的體驗，使用戶能夠以最少的工作量實現其目標。 設計應考慮生成式 AI 無法處理的主題，並結合回退機制。 此外，實施機制來收集用戶反饋，並根據此反饋不斷優化 AI 模型和工作負載。

可靠性

在設計智慧應用程式工作負載 Power Platform時，請關注彈性和可用性。

  • 彈性 是系統從故障中恢復並繼續運行的能力。
  • 可用性 確保不間斷的正常運行時間。 高可用性可最大限度地減少應用程式停機時間並增強從事件中恢復的能力。

可靠性在任何工作負載的開發中都很重要，生成式 AI 也不例外。 事實上，在設計生成式 AI 工作負載時，需要考慮一些獨特的因素。 認識和強調彈性對於生成式 AI 工作負載至關重要，以確保組織可用性並保持業務連續性。

雲中可能會發生故障。 您的目標應該是將單個故障元件的影響降至最低，而不是試圖完全防止故障。 使用以下資訊來最大限度地減少停機時間，並確保將高可用性的建議做法內置到您的智慧應用程式工作負載中：

  • 確保工作負載可以處理故障並繼續運行，即使功能降低也是如此。 識別潛在故障，使系統具有彈性，以容忍這些故障並從中恢復。
  • 使工作負載可觀察，以便開發團隊從失敗中吸取教訓。 通過實施監控、日誌記錄和警報機制快速識別和解決問題。
  • 確保工作負載可以擴展以處理不同的負載，這對於需求可能波動的 AI 工作負載尤其重要。
  • 實施強大的錯誤處理和恢復機制。 為系統故障設置自動警報，並制定明確的快速恢復計劃。
  • 通過瞭解聊天消息或對話的目標數量來驗證目標架構和擴展。 Target 卷還有助於驗證智慧應用程式的許可方面以及對 Dataverse 對話記錄存儲的潛在影響。

對於使用生成式 AI 功能的智慧應用程式，不僅要考慮彈性和可用性，還要考慮智慧工作負載提供的回應的可靠性和準確性。 對於每個設計注意事項，請考慮以下建議：

  • 針對檢索增強生成（RAG） 進行優化：確保您的數據乾淨且結構良好，創建高效的嵌入和索引以實現快速檢索，並實施強大的監控和反饋機制以不斷提高工作負載的性能。
  • 有效的提示：設計精確且與上下文相關的提示，以指南 AI 生成準確的回應。
  • 定期評估：對 AI 輸出實施持續監控和測試，以評估準確性、相關性和道德遵守情況。
  • 反饋迴圈：建立反饋機制，用戶可以在其中報告不準確之處，然後可以使用這些錯誤來改進和改進模型。 Microsoft Copilot Studio 提供 客戶滿意度分析，提供有關對 Copilot 回應的滿意或不滿驅動因素的可行見解。
  • 特定於域的訓練：根據特定於域的數據微調模型，以提高特定上下文中的準確性。
  • 定期更新：使用新數據定期更新模型，以保持其相關性和準確性。
  • 無法識別的意圖：通過使用 生成式答案 從可用數據源中查找答案，並使用後援主題 與其他系統集成來處理無法識別的 意圖。

安全性

在責任共擔模型中：

我們建議您定期評估服務和技術，以確保您的安全狀況適應不斷變化的威脅形勢。 在協作實施安全措施時，與供應商建立對責任共擔模型的清晰理解至關重要。

您可以採用多種方法來保護您的智慧應用程式工作負載：

  • 使用者身份驗證和訪問控制：實施強大的身份驗證和訪問控制措施，以確保只有授權使用者才能訪問智慧應用程式工作負載。 未經授權訪問智慧應用程式工作負載可能會導致數據洩露、資源濫用和敏感信息洩露。 弱或無效的身份驗證機制也可能導致用戶帳戶被盜用。
  • 合規性：確保數據按照法規要求得到保護和管理。 瞭解當地法規，隨時瞭解當地數據保護法律，並確保您的數據駐留策略符合這些法規。
  • 集成：保護與服務主體的所有集成。 通過安全功能和設備 (例如防火牆或 Web 應用程式防火牆) 監控和保護內部和外部端點的網路完整性。
  • 持續監控和審計：持續監控和審計工作負載活動，以主動檢測和回應。
  • Azure 安全工具：使用 Azure 的內置安全工具 (例如 Microsoft Defender for Cloud 和 Azure Policy) 來監視和強制實施安全策略。
  • 員工培訓：對員工進行數據保護最佳實踐和遵守數據駐留要求的重要性的培訓。

效能效率

性能效率是指工作負載有效擴展以滿足使用者需求的能力。

通過以下方式提高性能效率：

  • 瞭解目標卷以驗證目標架構和擴展。 Target 卷還有助於驗證 copilot 的許可方面以及對 Dataverse 對話記錄存儲的潛在影響。
  • 瞭解 平臺限制。 當您將智慧應用程式工作負載與外部系統集成時 (例如，通過 Power Automate 或 HTTP 請求)，驗證每個元件是否可以處理負載非常重要。
  • 使用 Azure Monitor、Log Analytics Application Insights 和警報等工具持續監視性能並檢測異常。
  • 瞭解以下設備的預期回覆時間：
    • 首次聊天載入和首次消息回覆
    • Copilot 回答用戶查詢的最大延遲
    • 處理長時間執行的操作的方法 (例如，等待外部系統傳回資料)
  • 優化偏轉率，或由於自動化而以自助方式完成請求的速率 (減少需要真人專員説明的請求數量)。 在智慧應用程式工作負載 的性能優化中瞭解更多資訊。

考慮這些方面中的每一個有助於您構建具有一致、有凝聚力的用戶體驗的智慧應用程式工作負載。

卓越營運

卓越運營涉及開發高效的流程來支援您的智慧應用程式工作負載。

操作失敗可能會影響其他設計領域以及智慧應用程式工作負載的整體成功。 定製您的運營流程以支持生產中的智慧應用程式工作負載非常重要。 以下建議推動卓越運營：

  • 自動化構建和發佈流程。 完全自動化的構建和發佈流程減少了摩擦，提高了部署更新的速度，從而實現了跨環境的可重複性和一致性。 自動化縮短了從開發人員推送更改到深入瞭解代碼品質、測試覆蓋率、彈性、安全性和性能的意見反應迴圈，所有這些都有助於提高開發人員的工作效率。
  • 保持治理和合規性。
  • 分析環境在生產中的性能和運行狀況。
  • 維護擷取以下內容的文件：
    • 故障排除過程
    • 災難恢復計劃
  • 提供有關如何加快解決問題過程的補救指導。
  • 採用持續的運營改進。 優先考慮系統和用戶體驗的日常改進。 使用運行狀況模型來瞭解和衡量運營效率，並使用反饋機制使應用程式團隊能夠以反覆運算方式了解和解決差距。

這些建議可以説明您的團隊以高效和透明的方式進行協作。

體驗優化

智慧應用程式工作負載應優先考慮對話設計，以確保使用者友好的體驗，使用戶能夠以最少的工作量實現其目標。 該設計應解決生成式 AI 無法處理的主題，並包括回退機制。 此外，實施機制來收集用戶反饋，並根據此反饋不斷優化 AI 模型和工作負載。

優化智慧應用程式工作負載的用戶體驗涉及幾個關鍵考慮因素：

  • 對話設計：設計直觀且易於導航的對話。 使用清晰簡潔的語言，並確保 AI 能夠有效地處理常見的用戶查詢。 專注於幫助使用者以最少的工作量實現他們的目標。 瞭解使用者意圖並快速提供相關回應，以確保無縫、高效的用戶體驗。

  • 處理限制：為生成式 AI 無法處理的主題實施回退機制，例如將使用者重定向到人工代理或提供替代資源。 設計強大的錯誤處理流程，以優雅地管理意外輸入。 當 AI 無法處理他們的請求時通知使用者並提供替代方案。

  • 用戶反饋：集成機制以持續收集用戶反饋。 Microsoft Copilot Studio 提供 客戶滿意度分析 ，提供有關對 Copilot 的回應感到滿意或不滿的驅動因素的可行見解。 使用收集到的反饋來改進和改進 AI 模型和整體工作負載。 基於使用者輸入的定期更新可以顯著增強用戶體驗。

  • 自定義和個人化：自定義提示和說明以對齊您的特定使用案例和使用者需求，以確保更準確和相關的回應。 使用動態鏈結來自動化觸發器並有效地管理主題流，以減少對手動預定義主題的需求，並提高 AI 識別使用者意圖的能力。 有關詳細資訊，請參閱 優化提示和主題配置。

後續步驟

Well-Architected Framework 設計原則已納入智慧應用程式工作負載設計領域。 每個設計領域都提供有針對性的指導，以説明您快速訪問高效提高生產力所需的資訊。

首先查看支援工作負載所需的設計注意事項：