提升您的生成式人工智慧作業 (GenAIOps) 的成熟度

發行項
10/16/2024

生成式人工智慧作業或 GenAIOps (有時稱為 LLMOps)，描述在生產環境中管理大型語言模型 (LLM) 的操作做法和策略。本文會提供指導，教您如何根據您組織目前的成熟度等級，在 GenAIOps 中提升能力。

使用下列描述來尋找您的 GenAIOps 成熟度模型排名層級。這些層級提供了貴組織的一般理解和實際應用層級。該指導方針會為您提供實用的連結，以擴充您的 GenAIOps 知識庫。

提示

使用 GenAIOps 成熟度模型評量來判斷您組織的目前 GenAIOps 成熟度等級。問卷旨在協助您了解貴組織目前的能力，並找出可改進的領域。

評量的結果會對應至 GenAIOps 成熟度模型排名層級，以提供組織的一般了解和實際應用層級。這些指導方針會為您提供實用的連結，以擴充您的 GenAIOps 知識庫。

層級 1 - 初始

提示

來自 GenAIOps 成熟度模型評量的分數：初始 (0-9)。

描述：您組織處於 GenAIOps 成熟度的初始基礎階段。您正在探索 LLM 的功能，但尚未開發結構化做法或系統化方法。

首先，熟悉不同的 LLM API 及其功能。接下來，開始試驗結構化提示設計和基本提示工程。請檢閱 Microsoft學習 文章作爲起點。利用您所學到的知識，探索如何引入 LLM 應用程式成效評估的基本計量。

層級 1 提升的建議參考

若要進一步了解 GenAIOps，請考慮可用的 MS 學習課程和研討會。

層級 2 - 定義

提示

來自 GenAIOps 成熟度模型評量的分數：成熟 (10-14)。

描述: 貴組織已開始將 LLM 作業系統化，並著重於結構化開發和實驗。不過，還有更複雜的整合和最佳化空間。

若要改善您的能力和技能，了解如何開發更複雜的提示，並開始有效地將它們整合到應用程式中。在此旅程中，您該針對 LLM 應用程式部署實作系統化方法，可能會探索 CI/CD 整合。了解核心之後，您就可以開始採用更進階的評估計量，例如基礎性、相關性和相似性。最後，您該專注於 LLM 使用的內容安全性和道德考量。

層級 2 提升的建議參考

層級 3 - 受控

提示

來自 GenAIOps 成熟度模型評量的分數：成熟 (15-19)。

描述: 貴組織正使用主動式監視和結構化部署策略來管理進階 LLM 工作流程。您即將達到卓越營運。

若要擴充您的基礎知識，請專注於 LLM 應用程式中的持續改進和創新。隨著您的進展，您可以使用預測性分析和完整的內容安全措施來增強監視策略。了解如何針對特定需求最佳化和微調 LLM 應用程式。最後，您想要透過進階版本控制和復原功能來加強您的資產管理策略。

層級 3 提升的建議參考

層級 4 - 最佳化

提示

來自 GenAIOps 成熟度模型評量的分數：最佳化 (20-28)。

描述：您組織在 GenAIOps 方面展現了卓越的營運能力。您有一套複雜的 LLM 應用程式開發、部署和監視方法。

隨著 LLM 的發展，您應持續更新最新的 LLM 提升，以維持您的領導位置。持續評估您的 LLM 策略與不斷演進的商業目標是否保持一致。確定您在小組內培養創新和持續學習的文化。最後但同樣重要的是，與更廣泛的社區分享您的知識和最佳做法，以在領域建立思想領導。

共用方式為