共用方式為


Databricks Runtime 6.0 (EoS)

注意

針對此 Databricks Runtime 版本的支援已結束。 如需了解終止支援日期,請參閱終止支援歷程記錄。 如需所有支援的 Databricks Runtime 版本,請參閱 Databricks Runtime 版本資訊版本和相容性 (機器翻譯)。

Databricks 於 2019 年 10 月發行此版本。

下列版本資訊提供由 Apache Spark 提供之 Databricks Runtime 6.0 的相關信息。

新功能

Python 環境

Databricks Runtime 6.0 包含 Python 的重大變更,以及 Python 環境設定的方式,包括將 Python 升級至 3.7.3、精簡已安裝的 Python 套件清單,以及將這些已安裝的套件升級至較新版本。 如需詳細資訊,請參閱 已安裝的 Python 連結庫

此外,如先前 所宣佈,Databricks Runtime 6.0 不支援 Python 2。

主要變更包括:

  • 已將 Python 從 3.5.2 升級至 3.7.3。 某些舊版的 Python 套件可能無法與 Python 3.7 向前相容,因為它們相依於與 Python 3.7 不相容的舊版 Cython。 安裝這類套件可能會觸發類似 ‘PyThreadState’ {‘struct _ts’} has no member named ‘exc_type’ 的錯誤(如需詳細資訊,請參閱 GitHub 問題 1978 )。 請改為安裝 Python 3.7 相容版本的 Python 套件。
  • 主要套件升級:
    • boto3 到 1.9.162
    • ipython 至 7.4.0
    • matplotlib 至 3.0.3
    • numpy 至 1.16.2
    • pandas 至 0.24.2
    • pyarrow 至 0.13.0
  • Databricks Runtime 5.5 LTS (EoS)相比,新包含下列 Python 套件:asn1crypto、backcall、jedi、kiwisolver、parso 和 PySocks。
  • Databricks Runtime 5.5 LTS (EoS)相比,不會安裝下列 Python 套件:ansi2html、brewer2mpl、colorama、configobj、enum34、et-xmlfile、freetype-py、 funcsigs, fusepy, ggplot, html5lib, ipaddress, jdcal, Jinja2, llvmlite, lxml, MarkupSafe, mpld3, msgpack-python, ndg-httpsclient, numba, openpyxl, pathlib2, Pillow, ply, pyasn1, pypng, python-geohash, scour, simplejson, and singledispatch.
  • display不再支援 Python ggplot 物件的函式,因為 ggplot 套件與較新版本的 pandas 不相容。
  • 不支援將 設定 PYSPARK_PYTHON/databricks/python2/bin/python ,因為 Databricks Runtime 6.0 不支援 Python 2。 具有這類設定的叢集仍然可以啟動。 不過,Python 筆記本和 Python 命令將無法運作,也就是說,Python 命令數據格會失敗,並出現「已取消」錯誤,而且 Python shell failed to start 驅動程式記錄檔中會出現錯誤。
  • 如果PYSPARK_PYTHON指向 Virtualenv管理環境中的 Python 可執行檔,則會針對 init 腳本和筆記本啟用此環境。 您可以使用 pythonpip 命令,直接在啟動的環境中定義,而不需要指定這些命令的絕對位置。 依預設,PYSPARK_PYTHON 會設為 /databricks/python3/bin/python。 因此,根據預設,python會指向 init 腳稿和筆記本的 指向 和 pip/databricks/python3/bin/pip /databricks/python3/bin/python PYSPARK_PYTHON如果您指向不在 Virtualenv 所管理環境中的 Python 可執行檔案,或如果您正在撰寫 init 腳本來建立 所PYSPARK_PYTHON指定的 Python,則必須使用絕對路徑來存取正確的 pythonpip。 啟用 Python 連結庫隔離 時(預設為啟用),啟動的環境仍然是相關聯的環境 PYSPARK_PYTHON 。 建議您使用 連結庫公用程式 (dbutils.library) (legacy) 來修改與 Python 筆記本相關聯的隔離環境。

Delta Lake DML 命令的 Scala 和 Java API

您現在可以使用程式設計 API 來修改 Delta 資料表中的數據,以進行刪除、更新和合併。 這些 API 會鏡像其對應 SQL 命令的語法和語意,而且適用於許多工作負載,例如,緩時變維度 (SCD) 作業、合併復寫的變更數據,以及串流查詢的更新插入。

如需詳細資訊,請參閱 什麼是 Delta Lake?

Delta Lake 公用程式命令的 Scala 和 Java API

Databricks Runtime 現在具有 和 history 公用程式命令的程序設計 APIvacuum。 這些 API 會鏡像其舊版 Databricks Runtime 中可用的對應 SQL 命令語法和語意。

您可以清除 Delta 數據表不再參考的檔案,而且在數據表上執行 vacuum 比保留閾值還舊。 在 vacuum 數據表上執行 命令會以遞歸方式清理與 Delta 數據表相關聯的目錄。 檔案的預設保留期閾值為 7 天。 執行 之後 vacuum,回到比保留期間還舊版本的能力會遺失。 vacuum 不會自動觸發。

您可以執行 history 命令,針對每個寫入 Delta 數據表,擷取作業、使用者、時間戳等資訊。 作業會以反向時間順序傳回。 根據預設,數據表記錄會保留 30 天。

如需詳細資訊,請參閱 什麼是 Delta Lake?

Azure Lsv2 實例可用的磁碟快取

[磁盘快取]](../../optimizations/disk-cache.md) 現在預設會針對所有 Lsv2 實例啟用。

使用本機檔案 API 優化記憶體

本機檔案 API 很有用,因為它們可讓您以本機檔案的形式從基礎分散式物件記憶體存取檔案。 在 Databricks Runtime 6.0 中,我們強化了 FUSE 掛接,可讓本機檔案 API 解決主要限制。 Databricks Runtime 6.0 大幅改善讀取和寫入速度,並支援大於 2 GB 的檔案。 如果您需要更快速且更可靠的讀取和寫入,例如用於分散式模型定型,您會發現這項增強功能特別有用。 此外,您不需要將數據載入工作負載的本機記憶體,同時節省成本和提高生產力。

如需詳細資訊,請參閱 什麼是 DBFS?

每個筆記本單元格有多個 matplotlib 繪圖

您現在可以顯示每個筆記本資料格的多個 matplotlib 繪圖:

單元格中的多個 matplotlib 繪圖

多個 Azure Data Lake Storage Gen1 帳戶的服務認證

您現在可以從 Azure Databricks 帳戶設定多個 從 Azure Databricks 帳戶存取 Azure Data Lake Storage Gen1 的服務認證,以在單一 Apache Spark 會話中使用。 若要這樣做,請將 新增 account.<account-name> 至組態密鑰。 例如,如果您想要設定帳戶的認證來存取 adl://example1.azuredatalakestore.netadl://example2.azuredatalakestore.net,您可以執行下列動作:

spark.conf.set("fs.adl.oauth2.access.token.provider.type", "ClientCredential")

spark.conf.set("fs.adl.account.example1.oauth2.client.id", "<application-id-example1>")
spark.conf.set("fs.adl.account.example1.oauth2.credential", dbutils.secrets.get(scope = "<scope-name>", key = "<key-name-for-service-credential-example1>"))
spark.conf.set("fs.adl.account.example1.oauth2.refresh.url", "https://login.microsoftonline.com/<directory-id-example1>/oauth2/token")

spark.conf.set("fs.adl.account.example2.oauth2.client.id", "<application-id-example2>")
spark.conf.set("fs.adl.account.example2.oauth2.credential", dbutils.secrets.get(scope = "<scope-name>", key = "<key-name-for-service-credential-example2>"))
spark.conf.set("fs.adl.account.example2.oauth2.refresh.url", "https://login.microsoftonline.com/<directory-id-example2>/oauth2/token")

改進

  • 已將 AWS SDK 升級至 1.11.596。
  • 已將 WASB 驅動程式中的 Azure 儲存體 SDK 升級至 7.0。
  • OPTIMIZE 現在提供計量的摘要,例如新增的檔案數目、已移除的檔案數目,以及檔案大小上限和最小。 請參閱優化資料檔配置

移除

Databricks ML 模型匯出已移除。 改使用 MLeap 匯入與匯出模型。

Apache Spark

注意

本文包含術語從屬的參考,這是 Azure Databricks 不使用的術語。 從軟體中移除該字詞時,我們也會將其從本文中移除。

Databricks Runtime 6.0 包含 Apache Spark 2.4.3。 此版本包含 Databricks Runtime 5.5 LTS (EoS) 中包含的所有 Spark 修正和改善,以及下列對 Spark 進行的其他錯誤修正和改進:

  • [SPARK-27992][SPARK-28881][PYTHON]允許 Python 與連接線程聯結以傳播錯誤
  • [SPARK-27330][SS]支援 foreach 寫入器中的工作中止 (6.0, 5.x)
  • [SPARK-28642][SQL]隱藏SHOW CREATE TABLE 中的認證
  • [SPARK-28699][CORE] 修正中止不確定階段的邊角案例
  • [SPARK-28647][WEBUI]復原其他計量功能
  • [SPARK-28766][R][DOC]修正無效 URL 上的 CRAN 傳入可行性警告
  • [SPARK-28486][CORE][PYTHON]將 PythonBroadcast 的數據文件對應至 BroadcastBlock,以避免 GC 刪除
  • [SPARK-25035][CORE]避免在磁碟儲存區塊復寫時進行記憶體對應
  • [SPARK-27234][SS][PYTHON]針對 EpochTracker 中目前的 Epoch 使用 InheritableThreadLocal (以支援 Python UDF)
  • [SPARK-28638][WEBUI]任務摘要應該只包含成功的工作計量
  • [SPARK-28153][PYTHON]在 InputFileBlockHolder 上使用 AtomicReference (以支援 Python UDF input_file_name)
  • [SPARK-28564][CORE]存取歷程記錄應用程式預設為上次嘗試標識碼
  • [SPARK-28260] 叢集可以在節流伺服器查詢仍在擷取結果時自動終止
  • [SPARK-26152][CORE]使用背景工作關閉同步處理背景工作清理
  • [SPARK-28545][SQL]將哈希對應大小新增至 ObjectAggregationIterator 的方向記錄
  • [SPARK-28489][SS]修正 KafkaOffsetRangeCalculator.getRanges 可能會卸除位移的錯誤
  • [SPARK-28421][ML] 疏鬆Vector.apply 效能優化
  • [SPARK-28156][SQL]自我聯結不應該遺漏快取檢視
  • [SPARK-28152][SQL]MsSqlServerDialect 將 ShortType 對應至 SMALLINT,並將 FloatType 對應至 REAL
  • [SPARK-28054][SQL]修正以動態方式插入Hive資料分割數據表時發生錯誤,其中數據分割名稱為大寫
  • [SPARK-27159][SQL] 更新 mssql 伺服器方言以支援二進位類型
  • [SPARK-28355][CORE][PYTHON]針對 com... 的臨界值使用 Spark conf...
  • [SPARK-27989][CORE]已針對 k8s 新增連線的重試
  • [SPARK-27416][SQL]UnsafeMapData & UnsafeArrayData Kryo 串行化...
  • [SPARK-28430][UI]修正某些工作計量遺失時的階段數據表轉譯
  • [SPARK-27485] EnsureRequirements.reorder 應該正常處理重複的表達式
  • [SPARK-28404][SS]修正 RateStreamContinuousPartitionReader 中的負逾時值
  • [SPARK-28378][PYTHON]拿掉 cgi.escape 的使用方式
  • [SPARK-28371][SQL]讓 Parquet “StartsWith” 篩選 null 安全
  • [SPARK-28015][SQL] 檢查 stringToDate() 是否針對 yyyy 和 yyyy-[m]m 格式取用整個輸入
  • [SPARK-28302][CORE]請務必為 Windows 上的 SparkLauncher 產生唯一的輸出檔案
  • [SPARK-28308][CORE] 剖析之前,應該先填補 CalendarInterval 次秒部分
  • [SPARK-28170][ML][PYTHON]統一向量和矩陣檔
  • [SPARK-28160][CORE]修正未核取例外狀況遺漏時回呼函式可能會停止回應的錯誤
  • [SPARK-27839][SQL]將 UTF8String.replace() 變更為在 UTF8 位元組上運作
  • [SPARK-28157][CORE]針對列入黑名單的專案,讓SHS清除 KVStore LogInfo
  • [SPARK-28128][PYTHON][SQL] pandas 群組 UDF 略過空的數據分割
  • [SPARK-28012][SQL]Hive UDF 支援結構類型可折迭表示式
  • [SPARK-28164] 修正 start-slave.sh 的使用 方式描述
  • [SPARK-27100][SQL]使用 Array 而不是 FilePartition 中的 Seq 來防止 StackOverflowError
  • [SPARK-28154][ML] GMM 修正雙重快取

維護更新

請參閱 Databricks Runtime 6.0 維護更新

系統環境

  • 操作系統:Ubuntu 16.04.6 LTS
  • Java:1.8.0_232
  • Scala:2.11.12
  • Python:3.7.3
  • R:R 3.6.1 版 (2019-07-05)
  • Delta Lake:0.3.0

注意

雖然 Scala 2.12 可作為 Apache Spark 2.4 中的實驗功能使用,但 Databricks Runtime 6.0 不支援此功能。

已安裝的 Python 程式庫

程式庫 版本 程式庫 版本 程式庫 版本
asn1crypto 0.24.0 backcall 0.1.0 boto 2.49.0
boto3 1.9.162 botocore 1.12.163 certifi 2019.3.9
cffi 1.12.2 chardet 3.0.4 密碼編譯 2.6.1
cycler 0.10.0 Cython 0.29.6 decorator 4.4.0
docutils 0.14 idna 2.8 ipython 7.4.0
ipython-genutils 0.2.0 jedi 0.13.3 jmespath 0.9.4
kiwisolver 1.1.0 matplotlib 3.0.3 numpy 1.16.2
pandas 0.24.2 parso 0.3.4 patsy 0.5.1
pexpect 4.6.0 pickleshare 0.7.5 pip 19.0.3
prompt-toolkit 2.0.9 psycopg2 2.7.6.1 ptyprocess 0.6.0
pyarrow 0.13.0 pycparser 2.19 pycurl 7.43.0
Pygments 2.3.1 PyGObject 3.20.0 pyOpenSSL 19.0.0
pyparsing 2.4.2 PySocks 1.6.8 python-apt 1.1.0.b1+ubuntu0.16.04.5
python-dateutil 2.8.0 pytz 2018.9 requests 2.21.0
s3transfer 0.2.1 scikit-learn 0.20.3 scipy 1.2.1
seaborn 0.9.0 setuptools 40.8.0 六次 1.12.0
ssh-import-id 5.5 statsmodels 0.9.0 traitlets 4.3.2
unattended-upgrades 0.1 urllib3 1.24.1 virtualenv 16.4.1
wcwidth 0.1.7 wheel 0.33.1

已安裝的 R 程式庫

程式庫 版本 程式庫 版本 程式庫 版本
abind 1.4-5 askpass 1.1 assertthat 0.2.1
backports 1.1.3 base 3.6.1 base64enc 0.1-3
BH 1.69.0-1 bit 1.1-14 bit64 0.9-7
bitops 1.0-6 blob 1.1.1 boot 1.3-23
brew 1.0-6 callr 3.2.0 汽車 3.0-2
carData 3.0-2 caret 6.0-82 cellranger 1.1.0
chron 2.3-53 class 7.3-15 cli 1.1.0
clipr 0.5.0 clisymbols 1.2.0 叢集 2.1.0
codetools 0.2-16 colorspace 1.4-1 commonmark 1.7
compiler 3.6.1 config 0.3 crayon 1.3.4
curl 3.3 data.table 1.12.0 datasets 3.6.1
DBI 1.0.0 dbplyr 1.3.0 遞減 1.2.0
devtools 2.0.1 digest 0.6.18 doMC 1.3.5
dplyr 0.8.0.1 省略符號 0.1.0 fansi 0.4.0
forcats 0.4.0 foreach 1.4.4 foreign 0.8-72
forge 0.2.0 fs 1.2.7 gbm 2.1.5
泛型 0.0.2 ggplot2 3.1.0 gh 1.0.1
git2r 0.25.2 glmnet 2.0-16 glue 1.3.1
gower 0.2.0 graphics 3.6.1 grDevices 3.6.1
grid 3.6.1 gridExtra 2.3 gsubfn 0.7
gtable 0.3.0 h2o 3.22.1.1 haven 2.1.0
hms 0.4.2 htmltools 0.3.6 htmlwidgets 1.3
httr 1.4.0 hwriter 1.3.2 hwriterPlus 1.0-3
ini 0.3.1 ipred 0.9-8 iterators 1.0.10
jsonlite 1.6 KernSmooth 2.23-15 labeling 0.3
lattice 0.20-38 Lava 1.6.5 lazyeval 0.2.2
littler 0.3.7 lme4 1.1-21 lubridate 1.7.4
magrittr 1.5 mapproj 1.2.6 maps 3.3.0
maptools 0.9-5 MASS 7.3-51.4 矩陣 1.2-17
MatrixModels 0.4-1 memoise 1.1.0 方法 3.6.1
mgcv 1.8-28 mime 0.6 minqa 1.2.4
ModelMetrics 1.2.2 munsell 0.5.0 mvtnorm 1.0-10
nlme 3.1-141 nloptr 1.2.1 nnet 7.3-12
numDeriv 2016.8-1 openssl 1.3 openxlsx 4.1.0
parallel 3.6.1 pbkrtest 0.4-7 pillar 1.3.1
pkgbuild 1.0.3 pkgconfig 2.0.2 pkgKitten 0.1.4
pkgload 1.0.2 plogr 0.2.0 plyr 1.8.4
praise 1.0.0 prettyunits 1.0.2 pROC 1.14.0
processx 3.3.0 prodlim 2018.04.18 進度 1.2.0
proto 1.0.0 ps 1.3.0 purrr 0.3.2
quantreg 5.38 R.methodsS3 1.7.1 R.oo 1.22.0
R.utils 2.8.0 r2d3 0.2.3 R6 2.4.0
randomForest 4.6-14 rappdirs 0.3.1 rcmdcheck 1.3.2
RColorBrewer 1.1-2 Rcpp 1.0.1 RcppEigen 0.3.3.5.0
RcppRoll 0.3.0 RCurl 1.95-4.12 readr 1.3.1
readxl 1.3.1 recipes 0.1.5 rematch 1.0.1
remotes 2.0.2 reshape2 1.4.3 力拓 0.5.16
rlang 0.3.3 RODBC 1.3-15 roxygen2 6.1.1
rpart 4.1-15 rprojroot 1.3-2 Rserve 1.8-6
RSQLite 2.1.1 rstudioapi 0.10 scales 1.0.0
sessioninfo 1.1.1 sp 1.3-1 sparklyr 1.0.0
SparkR 2.4.4 SparseM 1.77 spatial 7.3-11
splines 3.6.1 sqldf 0.4-11 SQUAREM 2017.10-1
statmod 1.4.30 stats 3.6.1 stats4 3.6.1
stringi 1.4.3 stringr 1.4.0 survival 2.44-1.1
sys 3.1 tcltk 3.6.1 TeachingDemos 2.10
testthat 2.0.1 tibble 2.1.1 tidyr 0.8.3
tidyselect 0.2.5 timeDate 3043.102 tools 3.6.1
usethis 1.4.0 utf8 1.1.4 utils 3.6.1
viridisLite 0.3.0 whisker 0.3-2 withr 2.1.2
xml2 1.2.0 xopen 1.0.0 yaml 2.2.0
zip 2.0.1

已安裝的 Java 和 Scala 連結庫 (Scala 2.11 叢集版本)

群組識別碼 成品識別碼 版本
ANTLR ANTLR 2.7.7
com.amazonaws amazon-kinesis-client 1.8.10
com.amazonaws aws-java-sdk-autoscaling 1.11.595
com.amazonaws aws-java-sdk-cloudformation 1.11.595
com.amazonaws aws-java-sdk-cloudfront 1.11.595
com.amazonaws aws-java-sdk-cloudhsm 1.11.595
com.amazonaws aws-java-sdk-cloudsearch 1.11.595
com.amazonaws aws-java-sdk-cloudtrail 1.11.595
com.amazonaws aws-java-sdk-cloudwatch 1.11.595
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.595
com.amazonaws aws-java-sdk-codedeploy 1.11.595
com.amazonaws aws-java-sdk-cognitoidentity 1.11.595
com.amazonaws aws-java-sdk-cognitosync 1.11.595
com.amazonaws aws-java-sdk-config 1.11.595
com.amazonaws aws-java-sdk-core 1.11.595
com.amazonaws aws-java-sdk-datapipeline 1.11.595
com.amazonaws aws-java-sdk-directconnect 1.11.595
com.amazonaws aws-java-sdk-directory 1.11.595
com.amazonaws aws-java-sdk-dynamodb 1.11.595
com.amazonaws aws-java-sdk-ec2 1.11.595
com.amazonaws aws-java-sdk-ecs 1.11.595
com.amazonaws aws-java-sdk-efs 1.11.595
com.amazonaws aws-java-sdk-elasticache 1.11.595
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.595
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.595
com.amazonaws aws-java-sdk-elastictranscoder 1.11.595
com.amazonaws aws-java-sdk-emr 1.11.595
com.amazonaws aws-java-sdk-glacier 1.11.595
com.amazonaws aws-java-sdk-glue 1.11.595
com.amazonaws aws-java-sdk-iam 1.11.595
com.amazonaws aws-java-sdk-importexport 1.11.595
com.amazonaws aws-java-sdk-kinesis 1.11.595
com.amazonaws aws-java-sdk-kms 1.11.595
com.amazonaws aws-java-sdk-lambda 1.11.595
com.amazonaws aws-java-sdk-logs 1.11.595
com.amazonaws aws-java-sdk-machinelearning 1.11.595
com.amazonaws aws-java-sdk-opsworks 1.11.595
com.amazonaws aws-java-sdk-rds 1.11.595
com.amazonaws aws-java-sdk-redshift 1.11.595
com.amazonaws aws-java-sdk-route53 1.11.595
com.amazonaws aws-java-sdk-s3 1.11.595
com.amazonaws aws-java-sdk-ses 1.11.595
com.amazonaws aws-java-sdk-simpledb 1.11.595
com.amazonaws aws-java-sdk-simpleworkflow 1.11.595
com.amazonaws aws-java-sdk-sns 1.11.595
com.amazonaws aws-java-sdk-sqs 1.11.595
com.amazonaws aws-java-sdk-ssm 1.11.595
com.amazonaws aws-java-sdk-storagegateway 1.11.595
com.amazonaws aws-java-sdk-sts 1.11.595
com.amazonaws aws-java-sdk-support 1.11.595
com.amazonaws aws-java-sdk-js-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.595
com.amazonaws jmespath-java 1.11.595
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics stream 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.5.0-db8-spark2.4
com.databricks dbml-local_2.11-tests 0.5.0-db8-spark2.4
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo-shaded 4.0.2
com.esotericsoftware minlog 1.3.0
com.fasterxml classmate 1.0.0
com.fasterxml.jackson.core jackson-annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib 核心 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib native_system java 1.1
com.github.fommil.netlib native_system-java-natives 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava guava 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.版
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.azure azure-storage 7.0.0
com.microsoft.sqlserver mssql-jdbc 6.2.2.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.9.3
com.twitter chill_2.11 0.9.3
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe config 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.7.3
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.9.3
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 3.1
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift aircompressor 0.10
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics metrics-healthchecks 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics metrics-servlet 3.1.5
io.netty netty 3.9.9.Final
io.netty netty-all 4.1.17.Final
javax.activation 啟用 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.14.6
joda-time joda-time 2.9.3
junit junit 4.12
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-properties 1.1.5
net.razorvine pyolite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-ingest-sdk 0.9.5
net.snowflake snowflake-jdbc 3.6.15
net.snowflake spark-snowflake_2.11 2.4.10-spark_2.4
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow arrow-format 0.10.0
org.apache.arrow arrow-memory 0.10.0
org.apache.arrow arrow-vector 0.10.0
org.apache.avro Avro 1.8.2
org.apache.avro avro-ipc 1.8.2
org.apache.avro avro-mapred-hadoop2 1.8.2
org.apache.calcite calcite-avatica 1.2.0-incubating
org.apache.calcite calcite-core 1.2.0-incubating
org.apache.calcite calcite-linq4j 1.2.0-incubating
org.apache.commons commons-compress 1.8.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3.5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.7.1
org.apache.curator curator-framework 2.7.1
org.apache.curator curator-recipes 2.7.1
org.apache.derby Derby 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-incubating
org.apache.httpcomponents HttpClient 4.5.6
org.apache.httpcomponents httpcore 4.4.10
org.apache.ivy ivy 2.4.0
org.apache.orc orc-core-nohive 1.5.5
org.apache.orc orc-mapreduce-nohive 1.5.5
org.apache.orc orc-shims 1.5.5
org.apache.parquet parquet-column 1.10.1.2-databricks3
org.apache.parquet parquet-common 1.10.1.2-databricks3
org.apache.parquet parquet-encoding 1.10.1.2-databricks3
org.apache.parquet parquet-format 2.4.0
org.apache.parquet parquet-hadoop 1.10.1.2-databricks3
org.apache.parquet parquet-jackson 1.10.1.2-databricks3
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm6-shaded 4.8
org.apache.zookeeper ZooKeeper 3.4.6
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler 3.0.10
org.codehaus.janino janino 3.0.10
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.27.v20190418
org.eclipse.jetty jetty-continuation 9.3.27.v20190418
org.eclipse.jetty jetty-http 9.3.27.v20190418
org.eclipse.jetty jetty-io 9.3.27.v20190418
org.eclipse.jetty jetty-jndi 9.3.27.v20190418
org.eclipse.jetty jetty-plus 9.3.27.v20190418
org.eclipse.jetty jetty-proxy 9.3.27.v20190418
org.eclipse.jetty jetty-security 9.3.27.v20190418
org.eclipse.jetty jetty-server 9.3.27.v20190418
org.eclipse.jetty jetty-servlet 9.3.27.v20190418
org.eclipse.jetty jetty-servlets 9.3.27.v20190418
org.eclipse.jetty jetty-util 9.3.27.v20190418
org.eclipse.jetty jetty-webapp 9.3.27.v20190418
org.eclipse.jetty jetty-xml 9.3.27.v20190418
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged 澤西-瓜瓦 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core jersey-server 2.22.2
org.glassfish.jersey.media jersey-media-jaxb 2.22.2
org.hamcrest hamcrest-core 1.3
org.hamcrest hamcrest-library 1.3
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.5.3
org.json4s json4s-core_2.11 3.5.3
org.json4s json4s-jackson_2.11 3.5.3
org.json4s json4s-scalap_2.11 3.5.3
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-core 1.10.19
org.objenesis objenesis 2.5.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.7.45
org.roaringbitmap 墊片 0.7.45
org.rocksdb rocksdbjni 6.2.2
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.12
org.scala-lang scala-library_2.11 2.11.12
org.scala-lang scala-reflect_2.11 2.11.12
org.scala-lang.modules scala-parser-combinators_2.11 1.1.0
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt test-interface 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalactic scalactic_2.11 3.0.3
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 3.0.3
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark 未使用的 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani xz 1.5
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.7.3
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
stax stax-api 1.0.1
xmlenc xmlenc 0.52