Generative AI 模型維護原則
本文說明 基礎模型 API 的模型維護原則， 和 基礎模型微調 供應專案。
為了繼續支援最先進的模型，Databricks 可能會 update 支援的模型，或針對基礎模型 API 依令牌付費和基礎模型微調供應專案淘汰較舊的模型。
模型退休政策
下列退休政策僅適用於基礎模型 API 中支援的聊天與完成模型，以及按字元計費和基礎模型微調的服務方案。
當模型淘汰時，它不再可供使用，並已從指定的功能項目中移除。 Databricks 會採取下列步驟，通知客戶即將淘汰的模型 set：
- 從 Databricks 工作區的 服務 頁面的模型卡顯示警告訊息，指出模型計劃淘汰。
- 警告訊息會顯示在 [實驗] 分頁中基礎模型微調的下拉選單中，指出模型計劃被淘汰。
- 適用的文件包含一則通知，指出模型已規劃淘汰，以及停止支援的開始日期。
在使用者收到即將淘汰模型的相關通知之後，Databricks 會在三個月內淘汰模型。 在這三個月的期間，客戶可以：
- 選擇移轉至預設的吞吐量端點，以便在生命周期結束日期之後繼續使用該模型。
- 移轉現有的工作流程以使用建議的取代模型。
在退役日期，模型會從產品中移除，並更新相關文件以建議使用替代模型。
如需目前已淘汰的模型和計劃停用日期的 list，請參閱 已淘汰的模型。
模型更新
Databricks 可能會將增量更新寄送至按令牌付費模型，以提供優化。 更新模型時，端點 URL 會維持不變，但響應物件中的模型標識碼會變更，以反映 update的日期。 例如，若在 2024 年 3 月 4 日將 update 運送到 meta-llama/Meta-Llama-3.1-405B，則回應物件中的模型名稱會更新為 meta-llama/Meta-Llama-3.1-405B-030424。 Databricks 會維護您可以參考之更新的版本歷程記錄。
已淘汰的模型
下列各節摘要說明基礎模型 API 的按使用量付費和即將淘汰的模型，以及基礎模型微調服務的供應方案。
基礎模型微調淘汰
下列 table 顯示已淘汰的模型系列、其淘汰日期，以及建議用於基礎模型微調工作負載的替代模型系列。 Databricks 建議您在指定的淘汰日期之前，移轉應用程式以使用取代模型。
| 模型家族 | 退休日期 | 建議的更換模型系列 |
|---|---|---|
| Meta-Llama-3 | 2025年1月7日 | Meta-Llama-3.1 |
| Meta-Llama-2 | 2025年1月7日 | Meta-Llama-3.1 |
| Code Llama | 2025年1月7日 | Meta-Llama-3.1 |
基礎模型 API 付費依令牌模式停止使用
下列 table 顯示模型退役、其退役日期，以及建議的替代模型，以用於基礎模型 API 的按令牌付費服務工作負載。 Databricks 建議您在指定的淘汰日期之前，移轉應用程式以使用取代模型。
重要
在 2024 年 12 月 11 日，Meta-Llama-3.3-70B-指示取代了基礎模型 API 中 Meta-Llama-3.1-70B-指示基礎模型 API 的依令牌付費端點的支援。
| 模型 | 退休日期 | 建議的取代模型 |
|---|---|---|
| Meta-Llama-3.1-70B-教學 | 2024年12月11日 | Meta-Llama-3.3-70B-教學 |
| Meta-Llama-3-70B-指導 | 2024年7月23日 | Meta-Llama-3.1-70B-指示 |
| Meta-Llama-2-70B-Chat | 2024 年 10 月 30 日 | Meta-Llama-3.1-70B-指導 |
| MPT 7B 指令 | 2024 年 8 月 30 日 | Mixtral-8x7B |
| MPT 30B 指令 | 2024 年 8 月 30 日 | Mixtral-8x7B |
如果您需要特定模型版本的長期支援，Databricks 建議您針對服務工作負載，使用基礎模型 API 設定的流量。