Polityka utrzymania modeli generatywnych sieci sztucznej inteligencji
W tym artykule opisano zasady konserwacji modelu dla interfejsów API modelu Foundation Pay-per-token i Foundation Model Fine-tuning ofert.
Aby kontynuować obsługę najnowocześniejszych modeli, Databricks może aktualizować obsługiwane modele lub wycofać starsze modele dla interfejsów API Modelu Fundacji— opłata za każdy token i oferty dostrajania Modelu Fundacji.
Polityka emerytalna modelu
Następująca polityka przestarzałości dotyczy tylko obsługiwanych modeli czatu i uzupełniania w Interfejsach API Modelu Podstawowego oferujących płatności za token i Fine-tuning.
Po wycofaniu modelu nie jest już dostępny do użycia i jest usuwany ze wskazanych ofert funkcji. Databricks wykonuje następujące kroki, aby powiadomić klientów o modelu przeznaczonym do wycofania:
- Na karcie modelu zostanie wyświetlony komunikat ostrzegawczy ze strony Obsługa obszaru roboczego usługi Databricks, który wskazuje, że model jest przeznaczony do wycofania.
- Komunikat ostrzegawczy jest wyświetlany w menu rozwijanym dostrajania modelu podstawowego na karcie Eksperymenty, który wskazuje, że model jest planowany na wycofanie.
- Odpowiednia dokumentacja zawiera powiadomienie wskazujące, że model jest planowany do wycofania oraz datę rozpoczęcia braku wsparcia.
Po powiadomieniu użytkowników o nadchodzącym wycofaniu modelu usługa Databricks wycofa model w ciągu trzech miesięcy. W tym okresie trzech miesięcy klienci mogą:
- Wybierz migrację do punktu końcowego z zarezerwowaną przepływnością, aby kontynuować korzystanie z modelu po dacie zakończenia okresu istnienia.
- Migrowanie istniejących przepływów pracy w celu używania zalecanych modeli zastępczych.
W dniu wycofania model zostanie usunięty z produktu, a odpowiednia dokumentacja zostanie zaktualizowana, aby zalecić użycie modelu zastępczego.
Zobacz Wycofane modele, aby zapoznać się z listą obecnie wycofanych modeli i planowanych dat wycofania.
Aktualizacje modelu
Usługa Databricks może wdrażać przyrostowe aktualizacje modeli opartych na płatności za token w celu zapewnienia optymalizacji. Po zaktualizowaniu modelu adres URL punktu końcowego pozostaje taki sam, ale identyfikator modelu w obiekcie odpowiedzi zmieni się, aby odzwierciedlić datę aktualizacji. Jeśli na przykład aktualizacja jest dostarczana do meta-llama/Meta-Llama-3.3-70B 3/4/2024, nazwa modelu w obiekcie odpowiedzi zostanie zaktualizowana do meta-llama/Meta-Llama-3.3-70B-030424. Usługa Databricks przechowuje historię wersji aktualizacji, do których można się odwoływać.
wycofane modele
W poniższych sekcjach podsumowano aktualne i planowane zakończenie wsparcia dla modeli bazowych w ramach interfejsów API w modelu płacisz za token oraz oferty dostrajania modeli bazowych.
Dostrajanie modeli bazowych — wycofanie
W poniższej tabeli przedstawiono wycofane rodziny modeli, ich daty wycofania i zalecane rodziny modeli zastępczych, które zalecane jest użycie dla obciążeń związanych z dostrajaniem modelu bazowego. Usługa Databricks zaleca migrowanie aplikacji do używania modeli zastępczych przed wskazaną datą wycofania.
| Rodzina modeli | Data wycofania | Rekomendowana rodzina modeli zastępczych |
|---|---|---|
| DBRX | 30 kwietnia 2025 r. | Llama-3.1-70B |
| Mixtral | 30 kwietnia 2025 r. | Llama-3.1-70B |
| Mistral | 30 kwietnia 2025 r. | Llama-3.1-8B |
| Meta-Llama-3.1-405B | 30 stycznia 2025 r. | Llama-3.1-70B |
| Meta-Llama-3 | 7 stycznia 2025 r. | Meta-Llama-3.1 |
| Meta-Llama-2 | 7 stycznia 2025 r. | Meta-Llama-3.1 |
| Code Llama | 7 stycznia 2025 r. | Meta-Llama-3.1 |
Interfejsy API modelu foundation — wycofywanie płatności za token
W poniższej tabeli przedstawiono wycofane modele, ich daty wycofania oraz zalecane modele zastępcze do użycia w przypadku obciążeń rozliczanych na podstawie liczby tokenów dla interfejsów API modelu podstawowego. Usługa Databricks zaleca migrowanie aplikacji do używania modeli zastępczych przed wskazaną datą wycofania.
Ważny
11 grudnia 2024 r. Meta-Llama-3.3-70B-Instruct zastąpił wsparcie dla Meta-Llama-3.1-70B-Instruct w punktach końcowych opłat za token w interfejsach API modelu Foundation.
| Model | Data wycofania | Zalecany model zastępczy |
|---|---|---|
| DBRX Instrukcja | 30 kwietnia 2025 r. | Meta-Llama-3.3-70B-Instruct |
| Mixtral-8x7B Instrukcja | 30 kwietnia 2025 r. | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-3.1-70B-Instruct | 11 grudnia 2024 r. | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-3-70B-Instruct | 23 lipca 2024 r. | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-2-70B-Chat | 30 października 2024 r. | Meta-Llama-3.3-70B-Instruct |
| Instrukcja MPT 7B | 30 sierpnia 2024 r. | Meta-Llama-3.3-70B-Instruct |
| MPT 30B Instrukcja | 30 sierpnia 2024 r. | Meta-Llama-3.3-70B-Instruct |
Jeśli potrzebujesz długoterminowej obsługi określonej wersji modelu, usługa Databricks zaleca używanie interfejsów API modelu foundation aprowizowaną przepływność dla obciążeń obsługujących.