Sdílet prostřednictvím


Databricks Runtime 15.2 pro Machine Learning

Databricks Runtime 15.2 pro Machine Learning poskytuje připravené prostředí pro strojové učení a datové vědy založené na databricks Runtime 15.2. Databricks Runtime ML obsahuje mnoho oblíbených knihoven strojového učení, včetně TensorFlow, PyTorch a XGBoost. Databricks Runtime ML zahrnuje AutoML, nástroj pro automatické trénování kanálů strojového učení. Databricks Runtime ML také podporuje distribuované trénování hlubokého učení pomocí Horovodu.

Tip

Poznámky k verzi pro verze Databricks Runtime, které dosáhly konce podpory (EoS), najdete v poznámkách k verzi Databricks Runtime pro ukončení podpory. Verze EoS Databricks Runtime byly vyřazeny a nemusí se aktualizovat.

Nové funkce a vylepšení

Databricks Runtime 15.2 ML je postaven na Databricks Runtime 15.2. Informace o novinkách v Databricks Runtime 15.2, včetně Apache Spark MLlib a SparkR, najdete ve zprávě k vydání verze Databricks Runtime 15.2 .

Přidání streamovací datové sady

StreamDataset slouží k co nejrychlejšímu, levnému a škálovatelnému trénování velkých datových sad z cloudového úložiště. Je předinstalovaný v Databricks Runtime 15.2 ML.

Podpora Photon v clusterech procesoru ML Databricks Runtime

Od Databricks Runtime 15.2 ML můžete zrychlit úlohy Spark SQL a Spark DataFrame tím, že ve svém clusteru procesoru povolíte Photon .

U aplikací strojového učení poskytuje Photon rychlejší výkon pro případy použití, jako jsou:

  • Příprava dat pomocí rozhraní SQL nebo rozhraní API datového rámce
  • Příprava funkcí s vyhledáváním k určitému bodu v čase
  • Analýza grafu pomocí GraphFrames

Photon nezlepší výkon knihoven Pythonu, jako jsou TensorFlow, PyTorch a XGBoost.

Rozhraní API Spark RDD a Spark MLlib mají omezenou kompatibilitu s Photon. Při zpracování velkých datových sad pomocí sady Spark RDD nebo Spark MLlib může docházet k problémům s pamětí Sparku. Viz problémy s pamětí Sparku.

Prostředí systému

Systémové prostředí v Databricks Runtime 15.2 ML se liší od Databricks Runtime 15.2 následujícím způsobem:

  • Pro clustery GPU zahrnuje Databricks Runtime ML následující knihovny NVIDIA GPU:
    • CUDA 12.1
    • cusolver 11.4.5.107-1
    • cupti 12.1
    • cuDNN 8.9.0.131-1
    • NCCL 2.17.1
    • TensorRT 8.6.1.6-1

Knihovny

Následující části list knihovny zahrnuté v Databricks Runtime 15.2 ML, které se liší od knihoven zahrnutých v Databricks Runtime 15.2.

V této části:

Knihovny nejvyšší úrovně

Databricks Runtime 15.2 ML obsahuje následující knihovny nejvyšší úrovně:

Knihovny Pythonu

Databricks Runtime 15.2 ML používá virtualenv ke správě balíčků Pythonu a obsahuje mnoho oblíbených balíčků ML.

Kromě balíčků uvedených v následujících částech obsahuje Databricks Runtime 15.2 ML také následující balíčky:

  • hyperopt 0.2.7+db3
  • sparkdl 3.0.0_db1
  • automl 1.26.0

Pokud chcete reprodukovat prostředí Databricks Runtime ML Python v místním virtuálním prostředí Pythonu, stáhněte si soubor requirements-15.2.txt a spusťte pip install -r requirements-15.2.txt. Tento příkaz nainstaluje všechny opensourcové knihovny, které databricks Runtime ML používá, ale neinstaluje knihovny vyvinuté službou Databricks, například databricks-automl, databricks-feature-engineeringnebo fork Databricks fork hyperopt.

Knihovny Pythonu v clusterech procesorů

Knihovna Verze Knihovna Verze Knihovna Verze
absl-py 1.0.0 zrychlit 0.28.0 aiohttp 3.8.5
aiohttp-cors 0.7.0 aiosignal 1.2.0 anyio 3.5.0
argon2-cffi 21.3.0 argon2-cffi-bindings 21.2.0 Astor 0.8.1
asttokens 2.0.5 astunparse 1.6.3 async-timeout 4.0.2
attrs 22.1.0 audioread 3.0.1 Azure-Core 1.30.1
azure-cosmos 4.3.1 azure-identity 1.16.0 azure-storage-blob 12.19.1
azure-storage-file-datalake 12.14.0 backcall 0.2.0 šifra 3.2.0
krásnásoup4 4.12.2 černý 23.3.0 bělit 4.1.0
blinkr 1.4 blis 0.7.11 boto3 1.34.39
botocore 1.34.39 Brotli 1.0.9 cachetools 5.3.3
katalog 2.0.10 kodéry kategorií 2.6.3 certifi 2023.7.22
cffi 1.15.1 chardet 4.0.0 charset-normalizer 2.0.4
jistič 1.4.0 kliknutí 8.0.4 cloudpathlib 0.16.0
cloudpickle 2.2.1 cmdstanpy 1.2.2 barevný 0.5.6
Komunikace 0.1.2 cukroví 0.1.4 configparser 5.2.0
obrysová křivka 1.0.5 kryptografie 41.0.3 cyklista 0.11.0
cymem 2.0.8 Cython 0.29.32 dacite 1.8.1
databricks-automl-runtime 0.2.21 databricks -feature-engineering 0.4.0 Databricks-sdk 0.20.0
dataclasses-json 0.6.4 Power BI 2.18.0 dbl-tempo 0.1.26
dbus-python 1.2.18 ladění 1.6.7 dekoratér 5.1.1
deepspeed 0.14.0 defusedxml 0.7.1 kopr 0.3.6
diskcache 5.6.3 distlib 0.3.8 dm-tree 0.1.8
vstupní body 0,4 evaluate 0.4.1 vykonávající 0.8.3
přehled omezujících vlastností 1.1.1 Farama-Notifications 0.0.4 fastjsonschema 2.19.1
fasttext 0.9.2 filelock 3.9.0 Flask 2.2.5
flatbuffers 24.3.25 fonttools 4.25.0 zmrazený seznam 1.3.3
fsspec 2023.5.0 budoucnost 0.18.3 Gast 0.4.0
gitdb 4.0.11 GitPython 3.1.27 google-api-core 2.18.0
google-auth 2.21.0 google-auth-oauthlib 1.0.0 google-cloud-core 2.4.1
google-cloud-storage 2.10.0 google-crc32c 1.5.0 google-pasta 0.2.0
google-resumable-media 2.7.0 googleapis-common-protos 1.63.0 zelenálet 2.0.1
grpcio 1.60.0 grpcio-status 1.60.0 gunicorn 20.1.0
gviz-api 1.10.0 tělocvična 0.28.1 h11 0.14.0
h5py 3.10.0 hjson 3.1.0 prázdniny 0,45
horovod 0.28.1+db1 htmlmin 0.1.12 httpcore 1.0.5
httplib2 0.20.2 httpx 0.27.0 huggingface-hub 0.20.2
idna 3.4 ImageHash 4.3.1 imageio 2.31.1
nevyvážené učení 0.11.0 importlib-metadata 6.0.0 importlib_resources 6.4.0
ipyflow-core 0.0.198 ipykernel 6.25.1 ipython 8.15.0
ipython-genutils 0.2.0 ipywidgets 8.0.4 isodate 0.6.1
jehodangerous 2.0.1 jax-jumpy 1.0.0 Jedi 0.18.1
Jeepney 0.7.1 Jinja2 3.1.2 jmespath 0.10.0
joblib 1.2.0 joblibspark 0.5.1 jsonpatch 1.33
jsonpointer 2,4 jsonschema 4.17.3 jupyter-server 1.23.4
jupyter_client 7.4.9 jupyter_core 5.3.0 jupyterlab-pygments 0.1.2
jupyterlab-widgety 3.0.5 keras 3.1.1 keyring 23.5.0
verizonsolver 1.4.4 langchain 0.1.13 langchain-community 0.0.32
langchain-core 0.1.41 langchain-text-splitters 0.0.1 langcodes 3.3.0
langsmith 0.1.45 launchpadlib 1.10.16 lazr.restfulclient 0.14.4
lazr.uri 1.0.6 lazy_loader 0,2 libclang 15.0.6.1
librosa 0.10.1 lightgbm 4.3.0 llvmlite 0.40.0
lxml 4.9.2 lz4 4.3.2 Druh žraloka 1.2.0
Markdown 3.4.1 markdown-it-py 2.2.0 MarkupSafe 2.1.1
pórovitá sladkost 3.21.1 matplotlib 3.7.2 matplotlib-inline 0.1.6
mdurl 0.1.0 špatně zamyšlení 0.8.4 ml-dtypes 0.3.2
mlflow-hubená 2.11.3 more-itertools 8.10.0 mosaicml-streaming 0.7.4
mpmath 1.3.0 msal 1.28.0 msal-extensions 1.1.0
msgpack 1.0.8 multidict 6.0.2 multimethod 1.11.2
paralelní proces 0.70.14 murmurhash 1.0.10 mypy-extensions 0.4.3
namex 0.0.7 nbclassic 0.5.5 nbclient 0.5.13
nbconvert 6.5.4 nbformat 5.7.0 nest-asyncio 1.5.6
networkx 3.1 ninja 1.11.1.1 nltk 3.8.1
poznámkový blok 6.5.4 notebook_shim 0.2.2 numba 0.57.1
numpy 1.23.5 oauthlib 3.2.0 Oci 2.125.2
openai 1.14.3 opencensus 0.11.4 opencensus-context 0.1.3
opt-einsum 3.3.0 optree 0.11.0 orjson 3.10.0
balení 23.2 pandas 1.5.3 pandocfilters 1.5.0
paramiko 3.4.0 parso 0.8.3 pathspec 0.10.3
bábovka 0.5.3 petastorm 0.12.1 pexpect 4.8.0
Phik 0.12.4 pickleshare 0.7.5 Polštář 9.4.0
jádro 23.2.1 platformdirs 3.10.0 plotly 5.9.0
pmdarima 2.0.4 psisko 1.8.1 portalocker 2.8.2
předběžně připravený 3.0.9 prometheus-client 0.14.1 prompt-toolkit 3.0.36
prorok 1.1.5 proto-plus 1.23.0 protobuf 4.24.1
psutil 5.9.0 psycopg2 2.9.3 ptyprocess 0.7.0
čistý-eval 0.2.2 py-cpuinfo 8.0.0 py-spy 0.3.14
pyarrow 14.0.1 pyarrow-hotfix 0,6 pyasn1 0.4.8
pyasn1-modules 0.2.8 pybind11 2.12.0 pyccolo 0.0.52
pycparser 2.21 pydantic 1.10.6 Pygments 2.15.1
PyGObject 3.42.1 PyJWT 2.3.0 PyNaCl 1.5.0
pynvml 11.5.0 pyodbc 4.0.38 pyOpenSSL 23.2.0
pyparsing 3.0.9 pyrsistent 0.18.0 pytesseract 0.3.10
python-dateutil 2.8.2 python-editor 1.0.4 python-lsp-jsonrpc 1.1.1
python-snappy 0.6.1 pytz 2022.7 PyWavelets 1.4.1
PyYAML 6.0 pyzmq 23.2.0 paprsek 2.10.0
regex 2022.7.9 žádosti 2.31.0 requests-oauthlib 1.3.1
odpovědi 0.13.3 rich 13.7.1 rsa 4,9
s3transfer 0.10.1 safetensors 0.4.2 scikit-image 0.20.0
scikit-learn 1.3.0 scipy 1.11.1 seaborn 0.12.2
SecretStorage 3.3.1 Send2Trash 1.8.0 větné transformátory 2.6.1
věta 0.1.99 setuptools 68.0.0 Shap 0.44.0
simplejson 3.17.6 Šest 1.16.0 kráječ 0.0.7
inteligentní otevření 5.2.1 smmap 5.0.0 sniffio 1.2.0
soundfile 0.12.1 polévky 2,4 soxr 0.3.7
spacy 3.7.2 spacy-legacy 3.0.12 spacy-loggers 1.0.5
spark-tensorflow-distributor 1.0.0 SQLAlchemy 1.4.39 sqlparse 0.4.2
srsly 2.4.8 ssh-import-id 5,11 stack-data 0.2.0
stanio 0.5.0 statsmodels 0.14.0 sympy 1.11.1
tangled-up-in-unicode 0.2.0 houževnatost 8.2.2 tensorboard 2.16.2
tensorboard-data-server 0.7.2 tensorboard_plugin_profile 2.15.1 tensorboardX 2.6.2.2
tensorflow-cpu 2.16.1 tensorflow-estimator 2.15.0 tensorflow-io-gcs-filesystem 0.36.0
termcolor 2.4.0 terminado 0.17.1 tenká 8.2.3
threadpoolctl 2.2.0 tifffile 2021.7.2 tiktoken 0.5.2
tinycss2 1.2.1 tokenize-rt 4.2.1 tokenizátory 0.15.0
pochodeň 2.2.2+cpu torcheval 0.0.7 torchvision 0.17.2+cpu
tornádo 6.3.2 tqdm 4.65.0 vlastnosti 5.7.1
Transformátory 4.39.2 typeguard 2.13.3 Typer 0.9.4
kontrola psaní 0.9.0 typing_extensions 4.10.0 tzdata 2022.1
ujson 5.4.0 bezobslužné upgrady 0,1 urllib3 1.26.16
virtualenv 20.21.0 vize 0.7.5 wadllib 1.3.6
wasabi 1.1.2 wcwidth 0.2.5 lasice 0.3.4
webencodings 0.5.1 websocket-client 0.58.0 Werkzeug 2.2.3
kolo 0.38.4 widgetsnbextension 4.0.5 wordcloud 1.9.3
wrapt 1.14.1 xgboost 2.0.3 xxhash 3.4.1
yarl 1.8.1 Profilace ydata 4.5.1 zipp 3.11.0

Knihovny Pythonu v clusterech GPU

Knihovna Verze Knihovna Verze Knihovna Verze
absl-py 1.0.0 zrychlit 0.28.0 aiohttp 3.8.5
aiohttp-cors 0.7.0 aiosignal 1.2.0 anyio 3.5.0
argon2-cffi 21.3.0 argon2-cffi-bindings 21.2.0 Astor 0.8.1
asttokens 2.0.5 astunparse 1.6.3 async-timeout 4.0.2
attrs 22.1.0 audioread 3.0.1 Azure-Core 1.30.1
azure-cosmos 4.3.1 azure-identity 1.16.0 azure-storage-blob 12.19.1
azure-storage-file-datalake 12.14.0 backcall 0.2.0 šifra 3.2.0
krásnásoup4 4.12.2 černý 23.3.0 bělit 4.1.0
blinkr 1.4 blis 0.7.11 boto3 1.34.39
botocore 1.34.39 Brotli 1.0.9 cachetools 5.3.3
katalog 2.0.10 kodéry kategorií 2.6.3 certifi 2023.7.22
cffi 1.15.1 chardet 4.0.0 charset-normalizer 2.0.4
jistič 1.4.0 kliknutí 8.0.4 cloudpathlib 0.16.0
cloudpickle 2.2.1 cmdstanpy 1.2.2 barevný 0.5.6
Komunikace 0.1.2 cukroví 0.1.4 configparser 5.2.0
obrysová křivka 1.0.5 kryptografie 41.0.3 cyklista 0.11.0
cymem 2.0.8 Cython 0.29.32 dacite 1.8.1
databricks-automl-runtime 0.2.21 databricks -feature-engineering 0.4.0 Databricks-sdk 0.20.0
dataclasses-json 0.6.4 Power BI 2.18.0 dbl-tempo 0.1.26
dbus-python 1.2.18 ladění 1.6.7 dekoratér 5.1.1
deepspeed 0.14.0 defusedxml 0.7.1 kopr 0.3.6
diskcache 5.6.3 distlib 0.3.8 dm-tree 0.1.8
einops 0.7.0 vstupní body 0,4 evaluate 0.4.1
vykonávající 0.8.3 přehled omezujících vlastností 1.1.1 Farama-Notifications 0.0.4
fastjsonschema 2.19.1 fasttext 0.9.2 filelock 3.9.0
flash-attn 2.5.6 Flask 2.2.5 flatbuffers 24.3.25
fonttools 4.25.0 zmrazený seznam 1.3.3 fsspec 2023.5.0
budoucnost 0.18.3 Gast 0.4.0 gitdb 4.0.11
GitPython 3.1.27 google-api-core 2.18.0 google-auth 2.21.0
google-auth-oauthlib 1.0.0 google-cloud-core 2.4.1 google-cloud-storage 2.10.0
google-crc32c 1.5.0 google-pasta 0.2.0 google-resumable-media 2.7.0
googleapis-common-protos 1.63.0 zelenálet 2.0.1 grpcio 1.60.0
grpcio-status 1.60.0 gunicorn 20.1.0 gviz-api 1.10.0
tělocvična 0.28.1 h11 0.14.0 h5py 3.10.0
hjson 3.1.0 prázdniny 0,45 horovod 0.28.1+db1
htmlmin 0.1.12 httpcore 1.0.5 httplib2 0.20.2
httpx 0.27.0 huggingface-hub 0.20.2 idna 3.4
ImageHash 4.3.1 imageio 2.31.1 nevyvážené učení 0.11.0
importlib-metadata 6.0.0 importlib_resources 6.4.0 ipyflow-core 0.0.198
ipykernel 6.25.1 ipython 8.15.0 ipython-genutils 0.2.0
ipywidgets 8.0.4 isodate 0.6.1 jehodangerous 2.0.1
jax-jumpy 1.0.0 Jedi 0.18.1 Jeepney 0.7.1
Jinja2 3.1.2 jmespath 0.10.0 joblib 1.2.0
joblibspark 0.5.1 jsonpatch 1.33 jsonpointer 2,4
jsonschema 4.17.3 jupyter-server 1.23.4 jupyter_client 7.4.9
jupyter_core 5.3.0 jupyterlab-pygments 0.1.2 jupyterlab-widgety 3.0.5
keras 3.1.1 keyring 23.5.0 verizonsolver 1.4.4
langchain 0.1.13 langchain-community 0.0.32 langchain-core 0.1.41
langchain-text-splitters 0.0.1 langcodes 3.3.0 langsmith 0.1.45
launchpadlib 1.10.16 lazr.restfulclient 0.14.4 lazr.uri 1.0.6
lazy_loader 0,2 libclang 15.0.6.1 librosa 0.10.1
lightgbm 4.3.0 llvmlite 0.40.0 lxml 4.9.2
lz4 4.3.2 Druh žraloka 1.2.0 Markdown 3.4.1
markdown-it-py 2.2.0 MarkupSafe 2.1.1 pórovitá sladkost 3.21.1
matplotlib 3.7.2 matplotlib-inline 0.1.6 mdurl 0.1.0
špatně zamyšlení 0.8.4 ml-dtypes 0.3.2 mlflow-hubená 2.11.3
more-itertools 8.10.0 mosaicml-streaming 0.7.4 mpmath 1.3.0
msal 1.28.0 msal-extensions 1.1.0 msgpack 1.0.8
multidict 6.0.2 multimethod 1.11.2 paralelní proces 0.70.14
murmurhash 1.0.10 mypy-extensions 0.4.3 namex 0.0.7
nbclassic 0.5.5 nbclient 0.5.13 nbconvert 6.5.4
nbformat 5.7.0 nest-asyncio 1.5.6 networkx 3.1
ninja 1.11.1.1 nltk 3.8.1 poznámkový blok 6.5.4
notebook_shim 0.2.2 numba 0.57.1 numpy 1.23.5
nvidia-cublas-cu12 12.1.3.1 nvidia-cuda-cupti-cu12 12.1.105 nvidia-cuda-nvrtc-cu12 12.1.105
nvidia-cuda-runtime-cu12 12.1.105 nvidia-cudnn-cu12 8.9.2.26 nvidia-cufft-cu12 11.0.2.54
nvidia-curand-cu12 10.3.2.106 nvidia-cusolver-cu12 11.4.5.107 nvidia-cusparse-cu12 12.1.0.106
nvidia-nccl-cu12 2.19.3 nvidia-nvjitlink-cu12 12.4.127 nvidia-nvtx-cu12 12.1.105
oauthlib 3.2.0 Oci 2.125.2 openai 1.14.3
opencensus 0.11.4 opencensus-context 0.1.3 opt-einsum 3.3.0
optree 0.11.0 orjson 3.10.0 balení 23.2
pandas 1.5.3 pandocfilters 1.5.0 paramiko 3.4.0
parso 0.8.3 pathspec 0.10.3 bábovka 0.5.3
petastorm 0.12.1 pexpect 4.8.0 Phik 0.12.4
pickleshare 0.7.5 Polštář 9.4.0 jádro 23.2.1
platformdirs 3.10.0 plotly 5.9.0 pmdarima 2.0.4
psisko 1.8.1 portalocker 2.8.2 předběžně připravený 3.0.9
prometheus-client 0.14.1 prompt-toolkit 3.0.36 prorok 1.1.5
proto-plus 1.23.0 protobuf 4.24.1 psutil 5.9.0
psycopg2 2.9.3 ptyprocess 0.7.0 čistý-eval 0.2.2
py-cpuinfo 8.0.0 py-spy 0.3.14 pyarrow 14.0.1
pyarrow-hotfix 0,6 pyasn1 0.4.8 pyasn1-modules 0.2.8
pybind11 2.12.0 pyccolo 0.0.52 pycparser 2.21
pydantic 1.10.6 Pygments 2.15.1 PyGObject 3.42.1
PyJWT 2.3.0 PyNaCl 1.5.0 pynvml 11.5.0
pyodbc 4.0.38 pyOpenSSL 23.2.0 pyparsing 3.0.9
pyrsistent 0.18.0 pytesseract 0.3.10 python-dateutil 2.8.2
python-editor 1.0.4 python-lsp-jsonrpc 1.1.1 python-snappy 0.6.1
pytz 2022.7 PyWavelets 1.4.1 PyYAML 6.0
pyzmq 23.2.0 paprsek 2.10.0 regex 2022.7.9
žádosti 2.31.0 requests-oauthlib 1.3.1 odpovědi 0.13.3
rich 13.7.1 rsa 4,9 s3transfer 0.10.1
safetensors 0.4.2 scikit-image 0.20.0 scikit-learn 1.3.0
scipy 1.11.1 seaborn 0.12.2 SecretStorage 3.3.1
Send2Trash 1.8.0 větné transformátory 2.6.1 věta 0.1.99
setuptools 68.0.0 Shap 0.44.0 simplejson 3.17.6
Šest 1.16.0 kráječ 0.0.7 inteligentní otevření 5.2.1
smmap 5.0.0 sniffio 1.2.0 soundfile 0.12.1
polévky 2,4 soxr 0.3.7 spacy 3.7.2
spacy-legacy 3.0.12 spacy-loggers 1.0.5 spark-tensorflow-distributor 1.0.0
SQLAlchemy 1.4.39 sqlparse 0.4.2 srsly 2.4.8
ssh-import-id 5,11 stack-data 0.2.0 stanio 0.5.0
statsmodels 0.14.0 sympy 1.11.1 tangled-up-in-unicode 0.2.0
houževnatost 8.2.2 tensorboard 2.16.2 tensorboard-data-server 0.7.2
tensorboard_plugin_profile 2.15.1 tensorboardX 2.6.2.2 tensorflow 2.16.1
tensorflow-estimator 2.15.0 tensorflow-io-gcs-filesystem 0.36.0 termcolor 2.4.0
terminado 0.17.1 tenká 8.2.3 threadpoolctl 2.2.0
tifffile 2021.7.2 tiktoken 0.5.2 tinycss2 1.2.1
tokenize-rt 4.2.1 tokenizátory 0.15.0 pochodeň 2.2.2+cu121
torcheval 0.0.7 torchvision 0.17.2+cu121 tornádo 6.3.2
tqdm 4.65.0 vlastnosti 5.7.1 Transformátory 4.39.2
Triton 2.2.0 typeguard 2.13.3 Typer 0.9.4
kontrola psaní 0.9.0 typing_extensions 4.10.0 tzdata 2022.1
ujson 5.4.0 bezobslužné upgrady 0,1 urllib3 1.26.16
virtualenv 20.21.0 vize 0.7.5 wadllib 1.3.6
wasabi 1.1.2 wcwidth 0.2.5 lasice 0.3.4
webencodings 0.5.1 websocket-client 0.58.0 Werkzeug 2.2.3
kolo 0.38.4 widgetsnbextension 4.0.5 wordcloud 1.9.3
wrapt 1.14.1 xgboost 2.0.3 xxhash 3.4.1
yarl 1.8.1 Profilace ydata 4.5.1 zipp 3.11.0
zstd 1.5.5.1

Knihovny jazyka R

Knihovny jazyka R jsou identické s knihovnami jazyka R v Databricks Runtime 15.2.

Knihovny Java a Scala (cluster Scala 2.12)

Kromě knihoven Java a Scala v Databricks Runtime 15.2 obsahuje Databricks Runtime 15.2 ML následující jary:

Clustery procesoru

ID skupiny ID artefaktu Verze
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-spark_2.12 1.7.3
ml.dmlc xgboost4j_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.3-db1-spark3.5
org.mlflow mlflow-client 2.11.1
org.scala-lang.modules scala-java8-compat_2.12 0.8.0
org.tensorflow spark-tensorflow-connector_2.12 1.15.0

Clustery GPU

ID skupiny ID artefaktu Verze
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-gpu_2.12 1.7.3
ml.dmlc xgboost4j-spark-gpu_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.3-db1-spark3.5
org.mlflow mlflow-client 2.11.1
org.scala-lang.modules scala-java8-compat_2.12 0.8.0
org.tensorflow spark-tensorflow-connector_2.12 1.15.0