使用基礎模型微調 UI 建立定型執行

重要

這項功能在下列區域開放公開預覽：centralus、eastus、eastus2、northcentralus 和 westus。

本文說明如何使用基礎模型微調（現在是馬賽克 AI 模型訓練的一部分） UI 來建立和設定定型執行。您也可以使用 API 建立回合。如需指示，請參閱使用基礎模型微調 API 建立定型執行。

需求

請參閱需求。

請遵循下列步驟，使用 UI 建立訓練回合。

[ 基礎模型微調 ] 窗體隨即開啟。必填項目以星號標示。選擇完畢之後，按下[開始訓練]。

類型：Select 要執行的工作。

Task	描述
指示微調	使用提示和回應輸入繼續訓練基礎模型，使其 optimize 用於特定任務。
持續預先訓練	繼續訓練基礎模型，為模型提供特定領域知識。
聊天完成	繼續使用聊天記錄來定型基礎模型，以針對 Q&A 或交談應用程式 optimize。

Select 基礎模型：Select 用來微調或訓練的模型。如需了解 list 支援的模型，請參閱支援的模型。

訓練數據：按兩下 [瀏覽] 以在 Unity Catalog中 selecttable，或輸入 Hugging Face 資料集的完整 URL。如需資料大小建議，請參閱建議模型訓練使用的資料大小。

如果您在 Unity Catalog中 selecttable，您也必須 select 用來讀取 table的計算。

於位置註冊：從下拉選單中選擇 Select Unity、Catalog、catalog 和 schema。模型訓練後會儲存到這個位置。

模型名稱：此模型會以您指定的 catalog 和 schema 儲存此名稱。預設名稱會出現在這個欄位，您可視需要變更。

進階選項：如需更多自訂，您可以設定評估、超參數微調或從現有專屬模型訓練的最佳設定。

設定	描述
訓練期間	訓練回合的持續時間，以 Epochs (例如 `10ep`) 或權杖 (例如 `1000000tok`) 為單位指定。預設值為 `1ep`。
學習率	模型訓練的學習速率。預設值為 `5e-7`。最佳化工具是 Beta 值為 0.99 和 0.95 的 DecoupledLionW，未使用權數衰減。學習速率排程器是 LinearWithWarmupSchedule，熱身階段佔總訓練持續時間 2%，最後學習速率乘數為 0。
內容長度	資料範例的序列長度上限。超過這個設定的資料會遭截斷。預設值取決於選取的模型。
評估資料	單擊 [瀏覽]，在 Unity Catalog中 selecttable，或輸入 Hugging Face 數據集的完整 URL。如果這個欄位留白，則不會執行任何評估。
模型評估提示	輸入評估模型用的選擇性提示。
實驗名稱	系統預設會為每回合指派自動產生的新名稱。您可以選擇性地輸入自定義名稱，或從下拉式清單 list選擇一個現有的實驗 select。
自訂權數	訓練預設會從使用所選模型的原始權數開始。若要從 Composer 檢查點開始使用自訂權重，請輸入包含檢查點 values的 Unity Catalogtable 的路徑。

訓練回合完成之後，您可以在 MLflow 檢閱計量及部署推斷模型。請參閱教學課程：建立和部署基礎模型微調執行的步驟 5 到 7。

如需逐步說明資料準備、微調訓練回合組態和部署的指令微調範例，請參閱指令微調：具名實體辨識示範筆記本。