Onderhoudsbeleid voor generatieve AI-modellen
In dit artikel wordt het modelonderhoudsbeleid voor de Foundation Model-API's met betalen per token en het afstemmingsaanbod van Foundation Model beschreven.
Om de meest geavanceerde modellen te blijven ondersteunen, kan Databricks ondersteunde modellen bijwerken of oudere modellen buiten gebruik stellen voor de Foundation Model-API's met betalen per token en afstemmen van Foundation-modellen.
Beleid voor buitengebruikstelling model
Het volgende buitengebruikstellingsbeleid is alleen van toepassing op ondersteunde chat- en voltooiingsmodellen in de Foundation Model-API's betalen per token en het verfijnen van foundationmodellen.
Wanneer een model buiten gebruik wordt gesteld, is het niet meer beschikbaar voor gebruik en wordt het verwijderd uit de aangegeven functieaanbiedingen. Databricks voert de volgende stappen uit om klanten op de hoogte te stellen van een model dat is ingesteld voor buitengebruikstelling:
- Er wordt een waarschuwingsbericht weergegeven op de modelkaart op de pagina Server van uw Databricks-werkruimte die aangeeft dat het model is gepland voor buitengebruikstelling.
- Er wordt een waarschuwingsbericht weergegeven in de vervolgkeuzelijst voor Foundation Model Fine-tuning op het tabblad Experimenten dat aangeeft dat het model is gepland voor buitengebruikstelling.
- De toepasselijke documentatie bevat een kennisgeving die aangeeft dat het model is gepland voor buitengebruikstelling en de begindatum wordt niet meer ondersteund.
Nadat gebruikers op de hoogte zijn gesteld van de aanstaande buitengebruikstelling van het model, wordt het model in drie maanden buiten gebruik gesteld. Gedurende deze periode van drie maanden kunnen klanten het volgende doen:
- Kies ervoor om te migreren naar een ingerichte doorvoereindpunt om het model na de einddatum van de levensduur te blijven gebruiken
- Migreer bestaande werkstromen om aanbevolen vervangingsmodellen te gebruiken.
Op de buitengebruikstellingsdatum wordt het model verwijderd uit het product en wordt de toepasselijke documentatie bijgewerkt om het gebruik van een vervangend model aan te bevelen.
Zie Buiten gebruik gestelde modellen voor een lijst met momenteel buiten gebruik gestelde modellen en geplande buitengebruikstellingsdatums.
Modelupdates
Databricks kan incrementele updates verzenden naar modellen met betalen per token om optimalisaties te leveren. Wanneer een model wordt bijgewerkt, blijft de eindpunt-URL hetzelfde, maar de model-id in het antwoordobject verandert zodat deze overeenkomt met de datum van de update. Als een update bijvoorbeeld op 3-4-2024 wordt verzonden meta-llama/Meta-Llama-3.1-405B , wordt de modelnaam in het antwoordobject bijgewerkt naar meta-llama/Meta-Llama-3.1-405B-030424. Databricks onderhoudt een versiegeschiedenis van de updates waarnaar u kunt verwijzen.
Buiten gebruik gestelde modellen
In de volgende secties vindt u een overzicht van de huidige en toekomstige modelaftredingen voor de Foundation Model-API's met betalen per token en het verfijnen van foundationmodellen.
Buitengebruikstelling van Foundation-model verfijnen
In de volgende tabel ziet u de buiten gebruik gestelde modelfamilies, hun pensioendatums en aanbevolen vervangingsmodelfamilies voor het verfijnen van foundationmodellen. Databricks raadt u aan uw toepassingen te migreren om vervangingsmodellen te gebruiken vóór de aangegeven buitengebruikstellingsdatum.
| Modelfamilie | Buitengebruikstellingsdatum | Aanbevolen vervangingsmodelfamilie |
|---|---|---|
| Meta-Llama-3 | 13 december 2024 | Meta-Llama-3.1 |
| Meta-Llama-2 | 13 december 2024 | Meta-Llama-3.1 |
| Code Llama | 13 december 2024 | Meta-Llama-3.1 |
Buitengebruikstelling van basismodel-API's per token
In de volgende tabel ziet u model buitengebruikstelling, hun buitengebruikstellingsdatums en aanbevolen vervangingsmodellen die moeten worden gebruikt voor Foundation Model-API's voor workloads met betalen per token. Databricks raadt u aan uw toepassingen te migreren om vervangingsmodellen te gebruiken vóór de aangegeven buitengebruikstellingsdatum.
Belangrijk
Op 23 juli 2024 vervangt Meta-Llama-3.1-70B-Instruct ondersteuning voor Meta-Llama-3-70B-Instruct in Foundation Model-API's betalen per token.
| Modelleren | Buitengebruikstellingsdatum | Aanbevolen vervangingsmodel |
|---|---|---|
| Meta-Llama-3-70B-Instruct | 23 juli 2024 | Meta-Llama-3.1-70B-Instruct |
| Meta-Llama-2-70B-Chat | 30 oktober 2024 | Meta-Llama-3.1-70B-Instruct |
| MPT 7B Instruct | 30 augustus 2024 | Mixtral-8x7B |
| MPT 30B-instructie | 30 augustus 2024 | Mixtral-8x7B |
Als u langetermijnondersteuning nodig hebt voor een specifieke modelversie, raadt Databricks aan om de ingerichte doorvoer van Foundation Model-API's te gebruiken voor uw serverworkloads.