Directiva de mantenimiento de modelos de IA generativa
En este artículo se describe la política de mantenimiento del modelo para las ofertas de las API de Fundación Modelo de pago-por-token y del Ajuste de Foundation Model.
Para seguir admitiendo los modelos más avanzados, Databricks podría actualizar los modelos admitidos o retirar modelos anteriores para las APIs de Foundation Model, tanto en la modalidad de pago por token como en las ofertas de ajuste fino de Foundation Model.
Política modelo de jubilación
La siguiente directiva de retirada solo se aplica a los modelos de finalización y chat admitidos en las API de Foundation Model de pago por token y ofertas de ajuste de Foundation Model.
Cuando se retira un modelo, ya no está disponible para su uso y se quita de las ofertas de características indicadas. Databricks toma los siguientes pasos para notificar a los clientes sobre un modelo que se retirará:
- Se muestra un mensaje de advertencia en la tarjeta de modelo de la página Servicio del área de trabajo de Databricks que indica que está planeada la retirada del modelo.
- Se muestra un mensaje de advertencia en el menú desplegable de Foundation Model Fine-tuning en la pestaña Experimentos que indica que el modelo está planeado para la retirada.
- La documentación aplicable contiene un aviso que indica que el modelo está programado para su retirada y la fecha a partir de la cual ya no se admitirá.
Después de recibir una notificación a los usuarios sobre la próxima retirada del modelo, Databricks retirará el modelo en tres meses. Durante este período de tres meses, los clientes pueden:
- Elija migrar a un punto de conexión de rendimiento provisionado para seguir usando el modelo más allá de su fecha de caducidad.
- Migre los flujos de trabajo existentes para usar modelos de reemplazo recomendados.
En la fecha de retirada, el modelo se quita del producto y la documentación aplicable se actualiza para recomendar el uso de un modelo de reemplazo.
Consulte modelos retirados para obtener una lista de los modelos retirados actualmente y las fechas de retirada planeadas.
Actualizaciones del modelo
Databricks puede enviar actualizaciones incrementales a los modelos de pago por token para ofrecer optimizaciones. Cuando se actualiza un modelo, la dirección URL del punto de conexión sigue siendo la misma, pero el identificador del modelo del objeto de respuesta cambia para reflejar la fecha de la actualización. Por ejemplo, si se envía una actualización a meta-llama/Meta-Llama-3.3-70B
el 4/3/2024, el nombre del modelo en el objeto de respuesta se actualiza a meta-llama/Meta-Llama-3.3-70B-030424
. Databricks mantiene un historial de versiones de las actualizaciones a las que puede hacer referencia.
Modelos retirados
En las secciones siguientes se resumen las retiradas actuales y futuras del modelo para las API de Foundation Model de pago por token y las ofertas de ajuste de Foundation Model.
Retiradas del ajuste de Foundation Model
En la tabla siguiente se muestran las familias de modelos retirados, las fechas de su retirada y las familias recomendadas de modelos de reemplazo para el ajuste fino de cargas de trabajo del Modelo Fundacional. Databricks recomienda migrar las aplicaciones para que usen modelos de reemplazo antes de la fecha de retirada indicada.
Familia de modelos | Fecha de retirada | Familia de modelos de reemplazo recomendada |
---|---|---|
DBRX | 30 de abril de 2025 | Llama-3.1-70B |
Mixtral | 30 de abril de 2025 | Llama-3.1-70B |
Mistral | 30 de abril de 2025 | Llama-3.1-8B |
Meta-Llama-3.1-405B | 30 de enero de 2025 | Llama-3.1-70B |
Meta-Llama-3 | 7 de enero de 2025 | Meta-Llama-3.1 |
Meta-Llama-2 | 7 de enero de 2025 | Meta-Llama-3.1 |
Code Llama | 7 de enero de 2025 | Meta-Llama-3.1 |
Retiradas de pago por token de las API de Foundation Model
En la tabla siguiente se muestran las retiradas del modelo, sus fechas de retirada y los modelos de reemplazo recomendados para usar para las cargas de trabajo de pago por token de las API de Foundation Model. Databricks recomienda migrar las aplicaciones para que usen modelos de reemplazo antes de la fecha de retirada indicada.
Importante
El 11 de diciembre de 2024, Meta-Llama-3.3-70B-Instruct sustituyó la compatibilidad con Meta-Llama-3.1-70B-Instruct en las API de Foundation Model, en los puntos de conexión de pago por token.
Modelo | Fecha de retirada | Modelo de reemplazo recomendado |
---|---|---|
DBRX Instruct | 30 de abril de 2025 | Meta-Llama-3.3-70B-Instruct |
Mixtral-8x7B Instruct | 30 de abril de 2025 | Meta-Llama-3.3-70B-Instruct |
Meta-Llama-3.1-70B-Instruct | 11 de diciembre de 2024 | Meta-Llama-3.3-70B-Instruct |
Meta-Llama-3-70B-Instruct | 23 de julio de 2024 | Meta-Llama-3.3-70B-Instruct |
Meta-Llama-2-70B-Chat | 30 de octubre de 2024 | Meta-Llama-3.3-70B-Instruct |
Instrucciones de MPT 7B | 30 de agosto de 2024 | Meta-Llama-3.3-70B-Instruct |
Instrucciones de MPT 30B | 30 de agosto de 2024 | Meta-Llama-3.3-70B-Instruct |
Si necesita soporte a largo plazo para una versión de modelo específica, Databricks recomienda usar las API de Foundation Model de rendimiento aprovisionado para las cargas de trabajo de servicio.