Политика обслуживания Databricks Runtime для машинного обучения
Databricks Runtime ML включает различные популярные библиотеки машинного обучения и библиотеки DL. Библиотеки обновляются с каждым выпуском, чтобы включить новые функции и исправления. В этой статье описываются поддерживаемые библиотеки верхнего уровня, их частота обновления и сценарии, когда библиотеки устарели.
Политика поддержки библиотеки
Databricks назначил подмножество поддерживаемых библиотек в качестве библиотек верхнего уровня. Для этих библиотек Databricks обеспечивает более быструю частоту обновления, обновляя до последних выпусков пакетов с каждым выпуском среды выполнения (за исключением конфликтов зависимостей). Databricks также предоставляет расширенную поддержку, тестирование и внедренную оптимизацию для библиотек верхнего уровня. Библиотеки верхнего уровня добавляются или удаляются только с основными выпусками.
Полный список библиотек верхнего уровня:
- наборов данных
- GraphFrames
- MLflow
- PyTorch
- spark-tensorflow-connector
- Scikit-learn
- стриминг
- TensorFlow
- TensorBoard
- трансформеры
В заметках о выпуске для Databricks Runtime ML см. список всех библиотек, включенных в каждую версию среды выполнения.
Политика нерекомендуемой библиотеки
Databricks может удалить библиотеку из списка верхнего уровня в следующих ситуациях:
- Если библиотека не имеет новых фиксаций в течение двух месяцев и новых выпусков в течение более шести месяцев. Databricks может добавить удалённую библиотеку, когда активное обслуживание будет возобновлено.
- Если использование библиотеки значительно снижается.
- Библиотеки заменяются, если добавлены новые пакеты для заполнения существенных пробелов.
Databricks удаляет предварительно установленную библиотеку, когда библиотека достигает любого из следующих условий:
- Библиотека больше не поддерживается. Библиотека считается неактивной, если выполняется любое из следующих условий:
- Нет новых фиксаций за три месяца и нет новых выпусков более чем за девять месяцев.
- Репозиторий библиотеки архивируется.
- Объявленное прекращение обслуживания этой библиотеки.
- Стабильный выпуск не найден функциональным для новой среды выполнения.
При планировании удаления библиотеки Databricks выполняет следующие действия, чтобы уведомить клиентов:
- Предупреждение об устаревании добавлено в заметки о выпуске среды выполнения ML, указывая на то, что библиотека будет удалена в следующей основной версии Databricks Runtime ML.
- При импорте библиотеки отображается уведомление, указывающее, что библиотека будет удалена в следующем основном выпуске Databricks Runtime ML.
- Документация Databricks, ссылающаяся на библиотеку, обновляется, чтобы указать, что библиотека планируется удалить.
Чтобы продолжить использовать библиотеку после удаления, можно установить библиотеку вручную или использовать более раннюю версию Databricks Runtime ML.