Databricks Runtime 13.1 voor Machine Learning (EoS)
Notitie
Ondersteuning voor deze Databricks Runtime-versie is beëindigd. Zie de geschiedenis van einde van ondersteuning voor de einddatum van de ondersteuning. Zie de releaseversies en compatibiliteit van Databricks Runtime voor alle ondersteunde Databricks Runtime-versies.
Databricks Runtime 13.1 voor Machine Learning biedt een kant-en-klare omgeving voor machine learning en gegevenswetenschap op basis van Databricks Runtime 13.1 (EoS). Databricks Runtime ML bevat veel populaire machine learning-bibliotheken, waaronder TensorFlow, PyTorch en XGBoost. Databricks Runtime ML bevat AutoML, een hulpprogramma voor het automatisch trainen van machine learning-pijplijnen. Databricks Runtime ML biedt ook ondersteuning voor gedistribueerde Deep Learning-training met behulp van Horovod.
Zie AI en machine learning op Databricks voor meer informatie, inclusief instructies voor het maken van een Databricks Runtime ML-cluster.
Nieuwe functies en verbeteringen
Databricks Runtime 13.1 ML is gebouwd op Databricks Runtime 13.1. Zie de releaseopmerkingen van Databricks Runtime 13.1, waaronder Apache Spark MLlib en SparkR, voor informatie over wat er nieuw is in Databricks Runtime 13.1 (EoS ).
Wijzigingen in Databricks Feature Store
In Databricks Runtime 13.1 ML en hoger gebruikt u in MySQL-archieven publish_table LONGTEXT-type voor tekenreeksgegevens in functietabellen. Als u een tabel publiceert met Databricks Runtime 13.1 ML en vervolgens naar de tabel moet schrijven met Databricks Runtime 13.0 of lager, moet u de overschrijfmodus gebruiken publish_table of de onlinetabel verwijderen en opnieuw publiceren.
Systeemomgeving
De systeemomgeving in Databricks Runtime 13.1 ML verschilt als volgt van Databricks Runtime 13.1:
- DBUtils: Databricks Runtime ML bevat geen bibliotheekhulpprogramma (dbutils.library) (verouderd).
Gebruik
%pipin plaats daarvan opdrachten. Zie Notebook-scoped Python libraries (Notebook-scoped Python-bibliotheken) voor meer informatie. - Voor GPU-clusters bevat Databricks Runtime ML de volgende NVIDIA GPU-bibliotheken:
- CUDA 11.7
- cuDNN 8.5.0.96-1
- NCCL 2.15.1
- TensorRT 7.2.2
Databricks Runtime 13.1 ML bevat XGBoost 1.7.5, die geen ONDERSTEUNING biedt voor GPU-clusters met rekencapaciteit 5.2 en lager.
Bibliotheken
In de volgende secties worden de bibliotheken vermeld die zijn opgenomen in Databricks Runtime 13.1 ML die verschillen van de bibliotheken die zijn opgenomen in Databricks Runtime 13.1.
In deze sectie:
- Bibliotheken met de hoogste laag
- Python-bibliotheken
- R-bibliotheken
- Java- en Scala-bibliotheken (Scala 2.12-cluster)
Bibliotheken met de hoogste laag
Databricks Runtime 13.1 ML bevat de volgende bibliotheken met de hoogste laag:
- GraphFrames
- Horovod en HorovodRunner
- MLflow
- PyTorch
- spark-tensorflow-connector
- TensorFlow
- TensorBoard
- Scikit-learn
Python-bibliotheken
Databricks Runtime 13.1 ML maakt gebruik van Virtualenv voor Python-pakketbeheer en bevat veel populaire ML-pakketten.
De volgende Python-bibliotheken zijn geïntroduceerd met Databricks Runtime 13.1 ML:
- langchain
- librosa
- pytesseract
- zinsstuk
- zinstransformatoren
- soundfile
- tiktoken
Naast de pakketten die in de volgende secties zijn opgegeven, bevat Databricks Runtime 13.1 ML ook de volgende pakketten:
- hyperopt 0.2.7+db3
- sparkdl-3.0.0_db1
- automl 1.18.0
Als u de Databricks Runtime ML Python-omgeving in uw lokale virtuele Python-omgeving wilt reproduceren, downloadt u het requirements-13.1.txt-bestand en voert u het uitpip install -r requirements-13.1.txt. Met deze opdracht worden alle opensourcebibliotheken geïnstalleerd die door Databricks Runtime ML worden gebruikt, maar worden er geen bibliotheken geïnstalleerd die zijn ontwikkeld door Databricks, zoals databricks-automl, databricks-feature-storeof de Databricks-fork van hyperopt.
Python-bibliotheken op CPU-clusters
| Bibliotheek | Versie | Bibliotheek | Versie | Bibliotheek | Versie |
|---|---|---|---|---|---|
| absl-py | 1.0.0 | versnellen | 0.18.0 | aiohttp | 3.8.4 |
| aiosignal | 1.3.1 | appdirs | 1.4.4 | argon2-cffi | 21.3.0 |
| argon2-cffi-bindingen | 21.2.0 | Astor | 0.8.1 | asttokens | 2.2.1 |
| astunparse | 1.6.3 | asynchrone time-out | 4.0.2 | attrs | 21.4.0 |
| audioread | 3.0.0 | azure-core | 1.26.4 | azure-cosmos | 4.3.1b1 |
| azure-storage-blob | 12.16.0 | azure-storage-file-datalake | 12.11.0 | backcall | 0.2.0 |
| bcrypt | 3.2.0 | beautifulsoup4 | 4.11.1 | zwart | 22.6.0 |
| bleken | 4.1.0 | oogklep | 1.4 | blis | 0.7.9 |
| boto3 | 1.24.28 | botocore | 1.27.28 | cachetools | 4.2.4 |
| catalogus | 2.0.8 | category-encoders | 2.6.0 | certifi | 2022.9.14 |
| cffiffi | 1.15.1 | chardet | 4.0.0 | charset-normalizer | 2.0.4 |
| klikken | 8.0.4 | cloudpickle | 2.0.0 | cmdstanpy | 1.1.0 |
| suikergoed | 0.0.4 | configparser | 5.2.0 | convertdate | 2.4.0 |
| cryptografie | 37.0.1 | wielrijder | 0.11.0 | cymem | 2.0.7 |
| Cython | 0.29.32 | databricks-automl-runtime | 0.2.16 | databricks-cli | 0.17.6 |
| databricks-feature-store | 0.12.0 | dataclasses-json | 0.5.7 | gegevenssets | 2.12.0 |
| dbl-tempo | 0.1.23 | dbus-python | 1.2.18 | foutopsporing | 1.5.1 |
| decorateur | 5.1.1 | defusedxml | 0.7.1 | dille | 0.3.4 |
| diskcache | 5.6.1 | distlib | 0.3.6 | docstring-to-markdown | 0,12 |
| invoerpunten | 0,4 | kortstondige tijd | 4.1.4 | evaluate | 0.4.0 |
| Uitvoeren | 1.2.0 | facets-overview | 1.0.3 | fastjsonschema | 2.16.3 |
| fasttext | 0.9.2 | filelock | 3.6.0 | Flask | 1.1.2 |
| flatbuffers | 23.3.3 | fonttools | 4.25.0 | geblokkeerde lijst | 1.3.3 |
| fsspec | 2022.7.1 | toekomst | 0.18.2 | gast | 0.4.0 |
| gitdb | 4.0.10 | GitPython | 3.1.27 | google-api-core | 2.8.2 |
| google-auth | 1.33.0 | google-auth-oauthlib | 0.4.6 | google-cloud-core | 2.3.2 |
| google-cloud-storage | 2.8.0 | google-crc32c | 1.5.0 | google-pasta | 0.2.0 |
| google-resumable-media | 2.5.0 | googleapis-common-protos | 1.56.4 | greenlet | 1.1.1 |
| grpcio | 1.48.1 | grpcio-status | 1.48.1 | gunicorn | 20.1.0 |
| gviz-api | 1.10.0 | h5py | 3.7.0 | hijri-converter | 2.3.1 |
| vakantie | 0,22 | horovod | 0.27.0 | htmlmin | 0.1.12 |
| httplib2 | 0.20.2 | huggingface-hub | 0.14.1 | idna | 3.3 |
| ImageHash | 4.3.1 | onevenwichtig leren | 0.8.1 | importlib-metadata | 4.11.3 |
| ipykernel | 6.17.1 | ipython | 8.10.0 | ipython-genutils | 0.2.0 |
| ipywidgets | 7.7.2 | isodate | 0.6.1 | itsdangerous | 2.0.1 |
| jedi | 0.18.1 | Jeepney | 0.7.1 | Jinja2 | 2.11.3 |
| jmespath | 0.10.0 | joblib | 1.2.0 | joblibspark | 0.5.1 |
| jsonschema | 4.16.0 | jupyter-client | 7.3.4 | jupyter_core | 4.11.2 |
| jupyterlab-pygments | 0.1.2 | jupyterlab-widgets | 1.0.0 | keras | 2.11.0 |
| sleutelhanger | 23.5.0 | kiwisolver | 1.4.2 | koreaans-maankalender | 0.3.1 |
| langchain | 0.0.152 | langcodes | 3.3.0 | launchpadlib | 1.10.16 |
| lazr.restfulclient | 0.14.4 | lazr.uri | 1.0.6 | lazy_loader | 0,2 |
| libclang | 15.0.6.1 | librosa | 0.10.0 | lightgbm | 3.3.5 |
| llvmlite | 0.38.0 | LunarCalendar | 0.0.9 | Mako | 1.2.0 |
| Markdown | 3.3.4 | MarkupSafe | 2.0.1 | marshmallow | 3.19.0 |
| marshmallow-enum | 1.5.1 | matplotlib | 3.5.2 | matplotlib-inline | 0.1.6 |
| Mccabe | 0.7.0 | mistune | 0.8.4 | mleap | 0.20.0 |
| mlflow-skinny | 2.3.1 | more-itertools | 8.10.0 | msgpack | 1.0.5 |
| multidict | 6.0.4 | multimethod | 1.9.1 | meerdere processen | 0.70.12.2 |
| murmurhash | 1.0.9 | mypy-extensions | 0.4.3 | nbclient | 0.5.13 |
| nbconvert | 6.4.4 | nbformat | 5.5.0 | nest-asyncio | 1.5.5 |
| networkx | 2.8.4 | nltk | 3.7 | nodeenv | 1.7.0 |
| notebook | 6.4.12 | numba | 0.55.1 | numexpr | 2.8.4 |
| numpy | 1.21.5 | oauthlib | 3.2.0 | openai | 0.27.4 |
| openapi-schema-pydantic | 1.2.4 | opt-einsum | 3.3.0 | verpakking | 21.3 |
| Pandas | 1.4.4 | pandocfilters | 1.5.0 | paramiko | 2.9.2 |
| parso | 0.8.3 | pathspec | 0.9.0 | pathy | 0.10.1 |
| Patsy | 0.5.2 | petastorm | 0.12.1 | pexpect | 4.8.0 |
| phik | 0.12.3 | pickleshare | 0.7.5 | Kussen | 9.2.0 |
| pit | 22.2.2 | platformdirs | 2.5.2 | plotly | 5.9.0 |
| pluggy | 1.0.0 | pmdarima | 2.0.3 | Pooch | 1.7.0 |
| vooraf geslagen | 3.0.8 | prometheus-client | 0.14.1 | prompt-toolkit | 3.0.36 |
| profeet | 1.1.2 | protobuf | 3.19.4 | psutil | 5.9.0 |
| psycopg2 | 2.9.3 | ptyprocess | 0.7.0 | pure-eval | 0.2.2 |
| pyarrow | 8.0.0 | pyasn1 | 0.4.8 | pyasn1-modules | 0.2.8 |
| pybind11 | 2.10.4 | pycparser | 2.21 | pydantic | 1.10.6 |
| pyflakes | 3.0.1 | Pygments | 2.11.2 | PyGObject | 3.42.1 |
| PyJWT | 2.3.0 | PyMeeus | 0.5.12 | PyNaCl | 1.5.0 |
| pyodbc | 4.0.32 | pyparsing | 3.0.9 | pyright | 1.1.294 |
| pyrsistent | 0.18.0 | pytesseract | 0.3.10 | python-dateutil | 2.8.2 |
| python-editor | 1.0.4 | python-lsp-jsonrpc | 1.0.0 | python-lsp-server | 1.7.1 |
| pytoolconfig | 1.2.2 | pytz | 2022.1 | PyWavelets | 1.3.0 |
| PyYAML | 6,0 | pyzmq | 23.2.0 | regex | 2022.7.9 |
| requests | 2.28.1 | requests-oauthlib | 1.3.1 | Reacties | 0.18.0 |
| touw | 1.7.0 | RSA | 4.9 | s3transfer | 0.6.0 |
| scikit-learn | 1.1.1 | scipy | 1.9.1 | seaborn | 0.11.2 |
| SecretStorage | 3.3.1 | Send2Trash | 1.8.0 | zinstransformatoren | 2.2.2 |
| zinsstuk | 0.1.97 | setuptools | 63.4.1 | Shap | 0.41.0 |
| simplejson | 3.17.6 | Zes | 1.16.0 | Slicer | 0.0.7 |
| slim openen | 5.2.1 | smmap | 5.0.0 | soundfile | 0.12.1 |
| soepsieve | 2.3.1 | soxr | 0.3.5 | spatie | 3.5.1 |
| spacy-legacy | 3.0.12 | spacy-loggers | 1.0.4 | spark-tensorflow-distributor | 1.0.0 |
| SQLAlchemy | 1.4.39 | sqlparse | 0.4.2 | srsly | 2.4.6 |
| ssh-import-id | 5,11 | stack-data | 0.6.2 | statsmodels | 0.13.2 |
| Tabulate | 0.8.10 | tangled-up-in-unicode | 0.2.0 | vasthoudendheid | 8.1.0 |
| tensorboard | 2.11.0 | tensorboard-data-server | 0.6.1 | tensorboard-plugin-profile | 2.11.2 |
| tensorboard-plugin-wit | 1.8.1 | tensorflow-cpu | 2.11.0 | tensorflow-estimator | 2.11.0 |
| tensorflow-io-gcs-filesystem | 0.32.0 | termcolor | 2.3.0 | terminado | 0.13.1 |
| testpath | 0.6.0 | thinc | 8.1.9 | threadpoolctl | 2.2.0 |
| tiktoken | 0.3.3 | tokenize-rt | 4.2.1 | tokenizers | 0.13.3 |
| tomli | 2.0.1 | fakkel | 1.13.1+cpu | torchvision | 0.14.1+cpu |
| tornado | 6.1 | tqdm | 4.64.1 | traitlets | 5.1.1 |
| Transformers | 4.28.1 | typeguard | 2.13.3 | Typer | 0.7.0 |
| typen-inspecteren | 0.8.0 | typing_extensions | 4.3.0 | ujson | 5.4.0 |
| upgrades zonder toezicht | 0,1 | urllib3 | 1.26.11 | virtualenv | 20.16.3 |
| Visioenen | 0.7.5 | wadllib | 1.3.6 | wasabi | 1.1.1 |
| wcwidth | 0.2.5 | webencodings | 0.5.1 | websocket-client | 0.58.0 |
| Werkzeug | 2.0.3 | whatthepatch | 1.0.2 | wiel | 0.37.1 |
| widgetsnbextension | 3.6.1 | wrapt | 1.14.1 | xgboost | 1.7.5 |
| xxhash | 3.2.0 | yapf | 0.31.0 | yarl | 1.9.2 |
| ydata-profilering | 4.1.2 | zipp | 3.8.0 |
Python-bibliotheken op GPU-clusters
| Bibliotheek | Versie | Bibliotheek | Versie | Bibliotheek | Versie |
|---|---|---|---|---|---|
| absl-py | 1.0.0 | versnellen | 0.18.0 | aiohttp | 3.8.4 |
| aiosignal | 1.3.1 | appdirs | 1.4.4 | argon2-cffi | 21.3.0 |
| argon2-cffi-bindingen | 21.2.0 | Astor | 0.8.1 | asttokens | 2.2.1 |
| astunparse | 1.6.3 | asynchrone time-out | 4.0.2 | attrs | 21.4.0 |
| audioread | 3.0.0 | azure-core | 1.26.4 | azure-cosmos | 4.3.1b1 |
| azure-storage-blob | 12.16.0 | azure-storage-file-datalake | 12.11.0 | backcall | 0.2.0 |
| bcrypt | 3.2.0 | beautifulsoup4 | 4.11.1 | zwart | 22.6.0 |
| bleken | 4.1.0 | oogklep | 1.4 | blis | 0.7.9 |
| boto3 | 1.24.28 | botocore | 1.27.28 | cachetools | 4.2.4 |
| catalogus | 2.0.8 | category-encoders | 2.6.0 | certifi | 2022.9.14 |
| cffiffi | 1.15.1 | chardet | 4.0.0 | charset-normalizer | 2.0.4 |
| klikken | 8.0.4 | cloudpickle | 2.0.0 | cmdstanpy | 1.1.0 |
| suikergoed | 0.0.4 | configparser | 5.2.0 | convertdate | 2.4.0 |
| cryptografie | 37.0.1 | wielrijder | 0.11.0 | cymem | 2.0.7 |
| Cython | 0.29.32 | databricks-automl-runtime | 0.2.16 | databricks-cli | 0.17.6 |
| databricks-feature-store | 0.12.0 | dataclasses-json | 0.5.7 | gegevenssets | 2.12.0 |
| dbl-tempo | 0.1.23 | dbus-python | 1.2.18 | foutopsporing | 1.5.1 |
| decorateur | 5.1.1 | defusedxml | 0.7.1 | dille | 0.3.4 |
| diskcache | 5.6.1 | distlib | 0.3.6 | docstring-to-markdown | 0,12 |
| invoerpunten | 0,4 | kortstondige tijd | 4.1.4 | evaluate | 0.4.0 |
| Uitvoeren | 1.2.0 | facets-overview | 1.0.3 | fastjsonschema | 2.16.3 |
| fasttext | 0.9.2 | filelock | 3.6.0 | Flask | 1.1.2 |
| flatbuffers | 23.3.3 | fonttools | 4.25.0 | geblokkeerde lijst | 1.3.3 |
| fsspec | 2022.7.1 | toekomst | 0.18.2 | gast | 0.4.0 |
| gitdb | 4.0.10 | GitPython | 3.1.27 | google-api-core | 2.8.2 |
| google-auth | 1.33.0 | google-auth-oauthlib | 0.4.6 | google-cloud-core | 2.3.2 |
| google-cloud-storage | 2.8.0 | google-crc32c | 1.5.0 | google-pasta | 0.2.0 |
| google-resumable-media | 2.5.0 | googleapis-common-protos | 1.56.4 | greenlet | 1.1.1 |
| grpcio | 1.48.1 | grpcio-status | 1.48.1 | gunicorn | 20.1.0 |
| gviz-api | 1.10.0 | h5py | 3.7.0 | hijri-converter | 2.3.1 |
| vakantie | 0,22 | horovod | 0.27.0 | htmlmin | 0.1.12 |
| httplib2 | 0.20.2 | huggingface-hub | 0.14.1 | idna | 3.3 |
| ImageHash | 4.3.1 | onevenwichtig leren | 0.8.1 | importlib-metadata | 4.11.3 |
| ipykernel | 6.17.1 | ipython | 8.10.0 | ipython-genutils | 0.2.0 |
| ipywidgets | 7.7.2 | isodate | 0.6.1 | itsdangerous | 2.0.1 |
| jedi | 0.18.1 | Jeepney | 0.7.1 | Jinja2 | 2.11.3 |
| jmespath | 0.10.0 | joblib | 1.2.0 | joblibspark | 0.5.1 |
| jsonschema | 4.16.0 | jupyter-client | 7.3.4 | jupyter_core | 4.11.2 |
| jupyterlab-pygments | 0.1.2 | jupyterlab-widgets | 1.0.0 | keras | 2.11.0 |
| sleutelhanger | 23.5.0 | kiwisolver | 1.4.2 | koreaans-maankalender | 0.3.1 |
| langchain | 0.0.152 | langcodes | 3.3.0 | launchpadlib | 1.10.16 |
| lazr.restfulclient | 0.14.4 | lazr.uri | 1.0.6 | lazy_loader | 0,2 |
| libclang | 15.0.6.1 | librosa | 0.10.0 | lightgbm | 3.3.5 |
| llvmlite | 0.38.0 | LunarCalendar | 0.0.9 | Mako | 1.2.0 |
| Markdown | 3.3.4 | MarkupSafe | 2.0.1 | marshmallow | 3.19.0 |
| marshmallow-enum | 1.5.1 | matplotlib | 3.5.2 | matplotlib-inline | 0.1.6 |
| Mccabe | 0.7.0 | mistune | 0.8.4 | mleap | 0.20.0 |
| mlflow-skinny | 2.3.1 | more-itertools | 8.10.0 | msgpack | 1.0.5 |
| multidict | 6.0.4 | multimethod | 1.9.1 | meerdere processen | 0.70.12.2 |
| murmurhash | 1.0.9 | mypy-extensions | 0.4.3 | nbclient | 0.5.13 |
| nbconvert | 6.4.4 | nbformat | 5.5.0 | nest-asyncio | 1.5.5 |
| networkx | 2.8.4 | nltk | 3.7 | nodeenv | 1.7.0 |
| notebook | 6.4.12 | numba | 0.55.1 | numexpr | 2.8.4 |
| numpy | 1.21.5 | oauthlib | 3.2.0 | openai | 0.27.4 |
| openapi-schema-pydantic | 1.2.4 | opt-einsum | 3.3.0 | verpakking | 21.3 |
| Pandas | 1.4.4 | pandocfilters | 1.5.0 | paramiko | 2.9.2 |
| parso | 0.8.3 | pathspec | 0.9.0 | pathy | 0.10.1 |
| Patsy | 0.5.2 | petastorm | 0.12.1 | pexpect | 4.8.0 |
| phik | 0.12.3 | pickleshare | 0.7.5 | Kussen | 9.2.0 |
| pit | 22.2.2 | platformdirs | 2.5.2 | plotly | 5.9.0 |
| pluggy | 1.0.0 | pmdarima | 2.0.3 | Pooch | 1.7.0 |
| vooraf geslagen | 3.0.8 | prompt-toolkit | 3.0.36 | profeet | 1.1.2 |
| protobuf | 3.19.4 | psutil | 5.9.0 | psycopg2 | 2.9.3 |
| ptyprocess | 0.7.0 | pure-eval | 0.2.2 | pyarrow | 8.0.0 |
| pyasn1 | 0.4.8 | pyasn1-modules | 0.2.8 | pybind11 | 2.10.4 |
| pycparser | 2.21 | pydantic | 1.10.6 | pyflakes | 3.0.1 |
| Pygments | 2.11.2 | PyGObject | 3.42.1 | PyJWT | 2.3.0 |
| PyMeeus | 0.5.12 | PyNaCl | 1.5.0 | pyodbc | 4.0.32 |
| pyparsing | 3.0.9 | pyright | 1.1.294 | pyrsistent | 0.18.0 |
| pytesseract | 0.3.10 | python-dateutil | 2.8.2 | python-editor | 1.0.4 |
| python-lsp-jsonrpc | 1.0.0 | python-lsp-server | 1.7.1 | pytoolconfig | 1.2.2 |
| pytz | 2022.1 | PyWavelets | 1.3.0 | PyYAML | 6,0 |
| pyzmq | 23.2.0 | regex | 2022.7.9 | requests | 2.28.1 |
| requests-oauthlib | 1.3.1 | Reacties | 0.18.0 | touw | 1.7.0 |
| RSA | 4.9 | s3transfer | 0.6.0 | scikit-learn | 1.1.1 |
| scipy | 1.9.1 | seaborn | 0.11.2 | SecretStorage | 3.3.1 |
| Send2Trash | 1.8.0 | zinstransformatoren | 2.2.2 | zinsstuk | 0.1.97 |
| setuptools | 63.4.1 | Shap | 0.41.0 | simplejson | 3.17.6 |
| Zes | 1.16.0 | Slicer | 0.0.7 | slim openen | 5.2.1 |
| smmap | 5.0.0 | soundfile | 0.12.1 | soepsieve | 2.3.1 |
| soxr | 0.3.5 | spatie | 3.5.1 | spacy-legacy | 3.0.12 |
| spacy-loggers | 1.0.4 | spark-tensorflow-distributor | 1.0.0 | sqlparse | 0.4.2 |
| srsly | 2.4.6 | ssh-import-id | 5,11 | stack-data | 0.6.2 |
| statsmodels | 0.13.2 | Tabulate | 0.8.10 | tangled-up-in-unicode | 0.2.0 |
| vasthoudendheid | 8.1.0 | tensorboard | 2.11.0 | tensorboard-data-server | 0.6.1 |
| tensorboard-plugin-profile | 2.11.2 | tensorboard-plugin-wit | 1.8.1 | tensorflow | 2.11.0 |
| tensorflow-estimator | 2.11.0 | tensorflow-io-gcs-filesystem | 0.32.0 | termcolor | 2.3.0 |
| terminado | 0.13.1 | testpath | 0.6.0 | thinc | 8.1.9 |
| threadpoolctl | 2.2.0 | tiktoken | 0.3.3 | tokenize-rt | 4.2.1 |
| tokenizers | 0.13.3 | tomli | 2.0.1 | fakkel | 1.13.1+cu117 |
| torchvision | 0.14.1+cu117 | tornado | 6.1 | tqdm | 4.64.1 |
| traitlets | 5.1.1 | Transformers | 4.28.1 | typeguard | 2.13.3 |
| Typer | 0.7.0 | typen-inspecteren | 0.8.0 | typing_extensions | 4.3.0 |
| ujson | 5.4.0 | upgrades zonder toezicht | 0,1 | urllib3 | 1.26.11 |
| virtualenv | 20.16.3 | Visioenen | 0.7.5 | wadllib | 1.3.6 |
| wasabi | 1.1.1 | wcwidth | 0.2.5 | webencodings | 0.5.1 |
| websocket-client | 0.58.0 | Werkzeug | 2.0.3 | whatthepatch | 1.0.2 |
| wiel | 0.37.1 | widgetsnbextension | 3.6.1 | wrapt | 1.14.1 |
| xgboost | 1.7.5 | xxhash | 3.2.0 | yapf | 0.31.0 |
| yarl | 1.9.2 | ydata-profilering | 4.1.2 | zipp | 3.8.0 |
R-bibliotheken
De R-bibliotheken zijn identiek aan de R-bibliotheken in Databricks Runtime 13.1.
Java- en Scala-bibliotheken (Scala 2.12-cluster)
Naast Java- en Scala-bibliotheken in Databricks Runtime 13.1 bevat Databricks Runtime 13.1 ML de volgende JAR's:
CPU-clusters
| Groeps-id | Artefact-id | Versie |
|---|---|---|
| com.typesafe.akka | akka-actor_2.12 | 2.5.23 |
| ml.dmlc | xgboost4j-spark_2.12 | 1.7.3 |
| ml.dmlc | xgboost4j_2.12 | 1.7.3 |
| org.graphframes | graphframes_2.12 | 0.8.2-db2-spark3.4 |
| org.mlflow | mlflow-client | 2.3.1 |
| org.scala-lang.modules | scala-java8-compat_2.12 | 0.8.0 |
| org.tensorflow | spark-tensorflow-connector_2.12 | 1.15.0 |
GPU-clusters
| Groeps-id | Artefact-id | Versie |
|---|---|---|
| com.typesafe.akka | akka-actor_2.12 | 2.5.23 |
| ml.dmlc | xgboost4j-gpu_2.12 | 1.7.3 |
| ml.dmlc | xgboost4j-spark-gpu_2.12 | 1.7.3 |
| org.graphframes | graphframes_2.12 | 0.8.2-db2-spark3.4 |
| org.mlflow | mlflow-client | 2.3.1 |
| org.scala-lang.modules | scala-java8-compat_2.12 | 0.8.0 |
| org.tensorflow | spark-tensorflow-connector_2.12 | 1.15.0 |