Onderhoudsbeleid voor generatieve AI-modellen
In dit artikel wordt het modelonderhoudsbeleid beschreven voor de Foundation Model-API's betalen per token en Foundation Model Fine-tuning aanbiedingen.
Om de meest geavanceerde modellen te blijven ondersteunen, kan Databricks ondersteunde modellen bijwerken of oudere modellen buiten gebruik stellen voor de Foundation Model-API's met betalen per token en afstemmen van Foundation-modellen.
Pensioenbeleid voor modellen
Het volgende pensioenbeleid is alleen van toepassing op ondersteunde chat- en voltooiingsmodellen in de Foundation Model-API's, pay-per-token-aanbiedingen en aanbiedingen voor het verfijnen van foundationmodellen.
Wanneer een model buiten gebruik wordt gesteld, is het niet meer beschikbaar voor gebruik en wordt het verwijderd uit de aangegeven functieaanbiedingen. Databricks voert de volgende stappen uit om klanten op de hoogte te stellen van een model dat is ingesteld voor buitengebruikstelling:
- Er wordt een waarschuwingsbericht weergegeven op de modelkaart op de pagina Serveren van uw Databricks-werkruimte die aangeeft dat het model is gepland voor buitengebruikstelling.
- Er wordt een waarschuwingsbericht weergegeven in de vervolgkeuzelijst voor Foundation Model Fine-tuning op het tabblad Experimenten dat aangeeft dat het model is gepland voor buitengebruikstelling.
- De toepasselijke documentatie bevat een kennisgeving waarin staat dat het model gepland is voor buitengebruikstelling en vanaf welke datum het niet meer wordt ondersteund.
Nadat gebruikers op de hoogte zijn gesteld van de aanstaande buitengebruikstelling van het model, wordt het model over drie maanden buiten gebruik gesteld. Gedurende deze periode van drie maanden kunnen klanten het volgende doen:
- Kies ervoor om te migreren naar een ingerichte doorvoereindpunt om het model na de einddatum van de levensduur te blijven gebruiken
- Migreer bestaande werkstromen om aanbevolen vervangingsmodellen te gebruiken.
Op de buitengebruikstellingsdatum wordt het model verwijderd uit het product en wordt de toepasselijke documentatie bijgewerkt om het gebruik van een vervangend model aan te bevelen.
Zie Buiten gebruik gestelde modellen voor een lijst met momenteel buiten gebruik gestelde modellen en geplande buitengebruikstellingsdatums.
Model updates
Databricks kan incrementele updates verzenden naar modellen met betalen per token om optimalisaties te leveren. Wanneer een model wordt bijgewerkt, blijft de eindpunt-URL hetzelfde, maar de model-id in het antwoordobject verandert zodat deze overeenkomt met de datum van de update. Als een update bijvoorbeeld op 3-4-2024 naar meta-llama/Meta-Llama-3.1-405B wordt verzonden, wordt de modelnaam in het antwoordobject bijgewerkt naar meta-llama/Meta-Llama-3.1-405B-030424. Databricks onderhoudt een versiegeschiedenis van de updates waarnaar u kunt verwijzen.
buiten gebruik gestelde modellen
In de volgende secties vindt u een overzicht van de huidige en toekomstige modelaftredingen voor de Foundation Model-API's met betalen per token en het verfijnen van foundationmodellen.
Buitengebruikstelling van Foundation-model verfijnen
In de volgende tabel ziet u de buiten gebruik gestelde modelfamilies, hun pensioendatums en aanbevolen vervangingsmodelfamilies voor het verfijnen van foundationmodellen. Databricks raadt u aan uw toepassingen te migreren om vervangingsmodellen te gebruiken vóór de aangegeven buitengebruikstellingsdatum.
| Modelfamilie | Pensioendatum | Aanbevolen vervangingsmodelfamilie |
|---|---|---|
| Meta-Llama-3 | 7 januari 2025 | Meta-Llama-3.1 |
| Meta-Llama-2 | 7 januari 2025 | Meta-Llama-3.1 |
| Code Llama | 7 januari 2025 | Meta-Llama-3.1 |
Stopzetting van basismodel-API's op pay-per-token basis
In de volgende tabel ziet u model buitengebruikstellingen, de data waarop ze buiten gebruik worden gesteld, en aanbevolen vervangingsmodellen die moeten worden gebruikt voor Foundation Model-API's met betalen per token voor workloads. Databricks raadt u aan uw toepassingen te migreren om vervangingsmodellen te gebruiken vóór de aangegeven buitengebruikstellingsdatum.
Belangrijk
Op 11 december 2024 verving Meta-Llama-3.3-70B-Instruct de ondersteuning voor Meta-Llama-3.1-70B-Instruct in de pay-per-token-eindpunten van de Foundation Model API's.
| Model | Pensioendatum | Aanbevolen vervangingsmodel |
|---|---|---|
| Meta-Llama-3.1-70B-Instruct | 11 december 2024 | Meta-Llama-3.3-70B-Instruct |
| Meta-Llama-3-70B-Instruct | 23 juli 2024 | Meta-Llama-3.1-70B-Instruct |
| Meta-Llama-2-70B-Chat | 30 oktober 2024 | Meta-Llama-3.1-70B-Instruct |
| MPT 7B Instruct | 30 augustus 2024 | Mixtral-8x7B |
| MPT 30B Instructie | 30 augustus 2024 | Mixtral-8x7B |
Als u langetermijnondersteuning nodig hebt voor een specifieke modelversie, raadt Databricks aan om Foundation Model-API's te gebruiken ingerichte doorvoer voor uw serverworkloads.