Zásady údržby modelů generující AI
Tento článek popisuje zásady údržby modelu pro rozhraní API základních modelů s platem za token a jemné doladění základního modelu nabídky.
Aby bylo možné pokračovat v podpoře nejmodernějších modelů, může Databricks aktualizovat podporované modely nebo vyřadit starší modely pro rozhraní API Foundation Model s platbou za token a nabídky jemného ladění Foundation Model.
Zásady vyřazování modelu
Zásady ukončení uvedené níže se vztahují pouze na podporované modely chatu a dokončování v rozhraních API základního modelu v nabídkách platby za token a jemného ladění základního modelu.
Když je model vyřazený, už není k dispozici pro použití a odebere se z uvedených nabídek funkcí. Databricks provede následující kroky, aby zákazníky informoval o modelu, který je nastavený pro vyřazení z provozu:
- Na kartě modelu na stránce Obsluha pracovního prostoru Databricks se zobrazí upozornění, že model bude vyřazen z provozu.
- V rozevírací nabídce pro vyladění základního modelu na kartě Experimenty se zobrazí zpráva s upozorněním, že je model plánovaný pro vyřazení z provozu.
- Příslušná dokumentace obsahuje oznámení, které uvádí, že model je plánován k vyřazení z provozu, a datum, ke kterému již nebude podporován.
Jakmile budou uživatelé upozorněni na nadcházející vyřazení modelu, Databricks model vyřadí do tří měsíců. Během tohoto tříměsíčního období můžou zákazníci:
- Zvolte migraci do koncového bodu zřízené propustnosti, abyste mohli dál používat model po datu ukončení životnosti.
- Migrujte existující pracovní postupy tak, aby používaly doporučené náhradní modely.
K datu vyřazení se model z produktu odebere a příslušná dokumentace se aktualizuje, aby doporučila použití náhradního modelu.
Seznam aktuálně vyřazených modelů a plánovaných kalendářních dat vyřazení najdete v tématu Vyřazené modely.
Aktualizace modelu
Databricks může dodávat přírůstkové aktualizace modelů s platbami za tokeny za účelem poskytování optimalizací. Při aktualizaci modelu zůstane adresa URL koncového bodu stejná, ale ID modelu v objektu odpovědi se změní tak, aby odráželo datum aktualizace. Například pokud je aktualizace odeslána do meta-llama/Meta-Llama-3.3-70B 3.4.2024, název modelu v objektu odpovědi se aktualizuje na meta-llama/Meta-Llama-3.3-70B-030424. Databricks udržuje historii verzí aktualizací, na které můžete odkazovat.
vyřazené modely
Následující části shrnují aktuální a nadcházející ukončení modelu pro rozhraní API nadace modelu s platbami za token a nabídky jemného ladění nadace modelu.
Vyřazení základního modelu
Následující tabulka uvádí vyřazené rodiny modelů, jejich data vyřazení a doporučené náhradní rodiny modelů, které se mají použít pro úlohy vyladění základního modelu. Databricks doporučuje migrovat aplikace tak, aby používaly náhradní modely před uvedeným datem vyřazení.
| Modelová rodina | Datum vyřazení | Doporučená řada náhradních modelů |
|---|---|---|
| DBRX | 30. dubna 2025 | Llama-3.1-70B |
| Mixtral | 30. dubna 2025 | Llama-3.1-70B |
| Mistral | 30. dubna 2025 | Llama-3.1-8B |
| Meta-Llama-3.1-405B | 30. ledna 2025 | Llama-3.1-70B |
| Meta-Llama-3 | 7. ledna 2025 | Meta-Llama-3.1 |
| Meta-Llama-2 | 7. ledna 2025 | Meta-Llama-3.1 |
| Kód Llama | 7. ledna 2025 | Meta-Llama-3.1 |
Ukončení rozhraní API základního modelu s platbami za token
Následující tabulka uvádí vyřazení modelu, data vyřazení z provozu a doporučené náhradní modely, které se mají použít pro rozhraní API základních modelů s platbami za tokeny obsluhující úlohy. Databricks doporučuje migrovat aplikace tak, aby používaly náhradní modely před uvedeným datem vyřazení.
Důležitý
Dne 11. prosince 2024 Meta-Llama-3.3-70B-Instruct nahradil podporu Meta-Llama-3.1-70B-Instruct v koncových bodech pro Foundation Model APIs s platbou za token.
| Model | Datum vyřazení | Doporučený náhradní model |
|---|---|---|
| DBRX – pokyn | 30. dubna 2025 | Meta-Llama-3.3-70B-Instruct |
| Mixtral-8x7B – instrukce | 30. dubna 2025 | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-3.1-70B-Instruct | 11. prosince 2024 | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-3-70B-Instruct | 23. července 2024 | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-2-70B-Chat | 30. října 2024 | Meta-Llama-3.3-70B-Instruct |
| MPT 7B – Instruujte | 30. srpna 2024 | Meta-Llama-3.3-70B-Instruct |
| MPT 30B – pokyn | 30. srpna 2024 | Meta-Llama-3.3-70B-Instruct |
Pokud potřebujete dlouhodobou podporu pro konkrétní verzi modelu, databricks doporučuje používat rozhraní API základního modelu zřízenou propustnost pro vaše obsluhované úlohy.