Databricks Runtime 5.3(不受支持)

Databricks 于 2019 年 4 月发布了此映像。

以下发行说明提供了由 Apache Spark 支持的 Databricks Runtime 5.3 的相关信息。

新功能

Databricks Delta

按时间顺序查看正式发布

Delta 按时间顺序查看已升级到正式版。 它添加了使用时间戳字符串或版本、使用 SQL 语法以及时间戳表达式的 DataFrameReader 选项来查询表快照的功能。

SELECT count(*) FROM events TIMESTAMP AS OF timestamp_expression
SELECT count(*) FROM events VERSION AS OF version

按时间顺序查看有许多用例,包括:

  • 重新创建分析、报告或输出(例如,机器学习模型的输出),这对调试或审核非常有用,尤其是在受管制的行业中。
  • 编写复杂的时态查询。
  • 修复数据中的错误。
  • 为针对快速变化表的一组查询提供快照隔离。

Delta time travel

请参阅查询表的较旧快照 (、选择) 和合并到 (Delta Lake上的时间Azure Databricks) 。

MySQL 表复制到 Delta 公共预览版

将数据从 MySQL 表直接流式传输到 Delta,以供 Spark 分析或数据科学工作流中的下游使用。 利用 MySQL 用于复制到其他实例的相同策略,使用 binlog 标识随后进行处理并流式传输到 Databricks 的更新,如下所示:

  • 读取数据库日志中的更改事件。
  • 将事件流式传输到 Databricks。
  • 按相同顺序写入 Delta 表。
  • 在与源断开连接时保持状态。

个人预览功能

此版本包含适用于 Delta Lake 的以下个人预览功能:

  • 添加了允许 Presto 直接查询 Delta 表的试验命令。
  • 自动优化功能会在每次写入 Delta 表的过程中优化文件布局,并防止小文件在 Delta 表中累积,以保持高速查询性能。 此外,由于在写入操作中引入了自适应随机选择,因此对已分区 Delta 表进行写入和更新插入的速度可能会大大提高。

如果你想参与任一预览,请联系 Databricks 客户代表。

经过优化的用于深度学习工作负载的 DBFS FUSE 文件夹

Azure Databricks 现在提供已优化的 FUSE 装载。 你可以在训练和推理过程中进行高性能的数据访问,而无需应用初始化脚本。 存储在 dbfs:/ml 下并可在 file:/dbfs/ml 本地访问的数据现在受到这一经优化的 FUSE 装载支持。 请参阅加载数据

改进

  • 笔记本范围内的库:

    • 支持 中的 额外功能
    • 支持为 Azure 文件系统中的库安装笔记本范围内的库,包括 wasbsadlsabfss
    • 改进了笔记本范围内的库在不受支持的目标上的错误消息。 例如:“库实用程序在用于机器学习的 Databricks Runtime 上不可用。”
  • 连接到 Azure Data Lake Storage Gen2 (ADLS Gen2),而无需向服务主体授予帐户范围的“存储 Blob 数据参与者”RBAC 角色。

  • Databricks 顾问具有提高查询性能的其他提示:

    • 当每个分区有许多小文件时 - > 将表转换为 Delta 并运行 OPTIMIZE
    • 存在高度选择性筛选器时 - > 转换为 Delta 并使用 ZORDER BY
    • 当从 Hive 提取元数据成为瓶颈时 - > 将表转换为 Delta。
  • 已将 Ubuntu 从 16.04.5 LTS 升级到 16.04.6 LTS。

  • 已将 Scala 2.11 从 2.11.8 升级到 2.11.12。

  • 升级了一些已安装的 Python 库:

    • pip:18.1 到 19.0.3。
    • setuptools:40.6.3 到 40.8.0
    • wheel:0.32.3 到 0.33.1
  • 已将 R 从 3.4.4 升级到 3.5.2。

  • 升级了多个已安装的 R 库。 请参阅已安装的 R 库

弃用

  • 不再支持用于结构化流式处理的 Apache Kafka 0.8 连接器。 它包含在 Databricks Runtime 5.3 中,但将从未来的 Databricks Runtime 版本中删除。
  • Databricks ML 模型导出已弃用,并将在 Databricks Runtime 6.0 中删除。 改用 MLeap 来导入和导出模型。
  • spark.databricks.pyspark.enableExecutorFsPerms 作为配置选项删除。

Bug 修复

  • 修复了为表 ACL 启用的群集的群集范围的 Python Egg 库安装。
  • 修复了在执行命令之前取消调用的情况,改进了 Python 命令取消。
  • 修复了表 ACL 中的 bug:现在,当你列出数据库或目录中的对象时,仅会看到你有权查看的对象。

Apache Spark

Databricks Runtime 5.3 包括 Apache Spark 2.4.0。 此版本包括 Databricks Runtime 5.2(不受支持)中包含的所有 Spark 修复和改进,以及对 Spark 进行的以下其他 bug 修复和改进:

  • [SPARK-27134][SQL] array_distinct 函数不能正确处理包含数组数组的列
  • [SPARK-24669][SQL] 在删除数据库级联的情况下使表失效
  • [SPARK-26572][SQL] 修复聚合 codegen 结果计算
  • [SPARK-27046][DSTREAMS] 从文档中删除与 SPARK-19185 相关的引用
  • [SPARK-26449][PYTHON] 将转换方法添加到数据帧 API
  • [SPARK-26740][SQL] 读取由 Spark 3.0 写入的时间戳/日期列统计信息
  • [SPARK-26909][SQL] 在 HashAggregate 中将 unsafeRow.hashCode() 用作哈希值
  • [SPARK-26990][SQL] FileIndex:使用用户指定的字段名称(如果可能)
  • [SPARK-26851][SQL] 修复 CachedRDDBuilder 中的双重检查锁定
  • [SPARK-26864][SQL] 如果 Python UDF 用作左半联接条件,则查询可能会返回不正确的结果
  • [SPARK-26887][SQL][PYTHON] 直接创建 ,而不是创建 datetime64 作为中间数据。
  • [SPARK-26859][SQL] 修复非向量化 ORC 反序列化程序中的字段编写器索引 bug
  • [SPARK-26864][SQL] 如果 Python UDF 用作联接条件,并且 udf 使用左半联接两个分支中的属性,则查询可能会返回不正确的结果
  • [SPARK-24360][SPARK-26091][BACKPORT][SQL] 支持 Hive 3.1 元存储
  • [SPARK-26873][SQL] 使用一致的时间戳生成 Hadoop 作业 ID。
  • [SPARK-26734][STREAMING] 修复了具有大型块队列的 StackOverflowError
  • [SPARK-26758][CORE] 未在 spark.dynamiAllocation.executorIdleTimeout 值后终止空闲执行程序
  • [SPARK-26751][SQL] 修复语句在后台运行并引发不是 HiveSQLException 的异常时的内存泄漏
  • [SPARK-26806][SS] EventTimeStats.merge 应正确处理零
  • [SPARK-26745][SPARK-24959][SQL] 通过以下方式还原 JSON 数据源中的计数优化
  • [SPARK-26757][GRAPHX] 对于空的 Edge/Vertex RDD 上的计数返回 0
  • [SPARK-26726] 将广播变量使用的内存量同步到 UI 显示
  • [SPARK-26718][SS] 修复了 SS kafka rateLimit 计算中的整数溢出
  • [SPARK-26708][SQL] 由于 SQL 缓存的缓存 RDD 与其物理计划之间的不一致而导致的错误结果
  • [SPARK-26735][SQL] 验证特殊表达式的计划完整性
  • [SPARK-26619][SQL] 删除 SerializeFromObject 中未使用的序列化程序
  • [SPARK-26379][SS] 使用虚拟 TimeZoneId 来避免 CurrentBatchTimestamp 中的 UnresolvedException
  • [SPARK-26495][SQL] 简化 SelectedField 提取程序
  • [SPARK-26379][SS] 修复有关将 current_timestamp/current_date 添加到流式处理查询的问题
  • [SPARK-26709][SQL] OptimizeMetadataOnlyQuery 无法正确处理空记录
  • [SPARK-26680][SQL] 在适当的条件下积极创建 inputVars
  • [SPARK-26682][SQL] 对 Hadoop 使用 taskAttemptID 而不是 attemptNumber。
  • [SPARK-26706][SQL] 为 ByteType 修复 illegalNumericPrecedence
  • [SPARK-26228][MLLIB] 计算 Gramian 矩阵时遇到 OOM 问题
  • [SPARK-26665][CORE] 修复 BlockTransferService.fetchBlockSync 可能永远挂起的 bug
  • [SPARK-26549][PYSPARK] python 辅助角色重用的修复对并行化延迟迭代范围不起作用
  • [SPARK-26351][MLLIB] 更新 mllib 评估指标中的文档和较小的更正
  • [SPARK-26450]避免为投影中的每一列重建架构映射
  • [SPARK-26638][PYSPARK][ML] Pyspark 矢量类始终返回一元求反错误
  • [SPARK-26633][REPL] 添加 ExecutorClassLoader.getResourceAsStream
  • [SPARK-26629][SS] 修复了查询中的多个文件流的错误 + 在没有一个文件流数据的批上重新启动
  • [SPARK-25992][PYTHON] 无法共享文档 SparkContext 以进行多重处理
  • [SPARK-26615][CORE] 修复核心 unittests 中的传输服务器/客户端资源泄漏
  • [SPARK-26350][SS] 允许替代 Kafka 使用者的组 ID
  • [SPARK-26538][SQL] 为 postgres 数值阵列的元素设置默认的精度和小数位数
  • [SPARK-26586][SS] 修复导致流以意外配置运行的争用条件
  • [SPARK-26551][SQL] 修复在选择一个复杂字段并在另一个字段上具有不为 Null 谓词时的架构删除错误
  • [SPARK-26576][SQL] 广播提示未应用于已分区表
  • [SPARK-26571][SQL] 使用 Parquet 和 Orc FileFormat 的规范名称更新 Hive Serde 映射
  • [SPARK-26267][SS] 检测到 Kafka 的错误偏移时重试 (2.4)
  • [SPARK-26559][ML][PYSPARK] ML 映像不能用于 1.9 之前的 numpy 版本
  • [SPARK-26078][SQL] IN 子查询上的 Dedup 自联接属性

维护更新

请参阅 Databricks Runtime 5.3 维护更新

系统环境

  • 操作系统:Ubuntu 16.04.6 LTS
  • Java:1.8.0_191
  • Scala:2.11.12
  • Python:2.7.12 适用于 Python 2 群集,3.5.2 适用于 Python 3 群集。 有关详细信息,请参阅 Docker 映像
  • R:R 版本3.5.2 (2018-12-20)
  • GPU 群集:安装了以下 NVIDIA GPU 库:
    • Tesla 驱动程序 375.66
    • CUDA 9.0
    • cuDNN 7.0

注意

尽管 Apache Spark 2.4 支持 Scala 2.12,但 Databricks Runtime 5.3 不支持。

已安装的 Python 库

版本 版本 版本
ansi2html 1.1.1 argparse 1.2.1 backports-abc 0.5
boto 2.42.0 boto3 1.4.1 botocore 1.4.70
brewer2mpl 1.4.1 certifi 2016.2.28 cffi 1.7.0
chardet 2.3.0 colorama 0.3.7 configobj 5.0.6
密码系统 1.5 cycler 0.10.0 Cython 0.24.1
decorator 4.0.10 docutils 0.14 enum34 1.1.6
et-xmlfile 1.0.1 freetype-py 1.0.2 funcsigs 1.0.2
fusepy 2.0.4 Future 3.2.0 ggplot 0.6.8
html5lib 0.999 idna 2.1 ipaddress 1.0.16
ipython 2.2.0 ipython-genutils 0.1.0 jdcal 1.2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe 0.23 matplotlib 1.5.3
mpld3 0.2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
numba 0.28.1 numpy 1.11.1 openpyxl 2.3.2
pandas 0.19.2 pathlib2 2.1.0 patsy 0.4.1
pexpect 4.0.1 pickleshare 0.7.4 Pillow 3.3.1
pip 19.0.3 ply 3.9 prompt-toolkit 1.0.7
psycopg2 2.6.2 ptyprocess 0.5.1 py4j 0.10.3
pyarrow 0.8.0 pyasn1 0.1.9 pycparser 2.14
Pygments 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing 2.2.0 pypng 0.0.18 Python 2.7.12
python-dateutil 2.5.3 python-geohash 0.8.5 pytz 2016.6.1
请求 2.11.1 s3transfer 0.1.9 scikit-learn 0.18.1
scipy 0.18.1 scour 0.32 seaborn 0.7.1
setuptools 40.8.0 simplejson 3.8.2 simples3 1.0
singledispatch 3.4.0.3 6 1.10.0 statsmodels 0.6.1
tornado 5.1.1 traitlets 4.3.0 urllib3 1.19.1
virtualenv 16.1.0 wcwidth 0.1.7 wheel 0.33.1
wsgiref 0.1.2

已安装的 R 库

版本 版本 版本
abind 1.4-5 askpass 1.1 assertthat 0.2.0
backports 1.1.3 base 3.5.2 base64enc 0.1-3
BH 1.69.0-1 bit 1.1-14 bit64 0.9-7
bitops 1.0-6 blob 1.1.1 boot 1.3-20
brew 1.0-6 callr 3.1.1 car 3.0-2
carData 3.0-2 caret 6.0-81 cellranger 1.1.0
chron 2.3-53 class 7.3-15 cli 1.0.1
clipr 0.5.0 clisymbols 1.2.0 cluster 2.0.7-1
codetools 0.2-16 colorspace 1.4-0 commonmark 1.7
compiler 3.5.2 config 0.3 crayon 1.3.4
curl 3.3 data.table 1.12.0 datasets 3.5.2
DBI 1.0.0 dbplyr 1.3.0 desc 1.2.0
devtools 2.0.1 digest 0.6.18 doMC 1.3.5
dplyr 0.8.0.1 ellipsis 0.1.0 fansi 0.4.0
forcats 0.4.0 foreach 1.4.4 foreign 0.8-71
forge 0.2.0 fs 1.2.6 gbm 2.1.5
generics 0.0.2 ggplot2 3.1.0 gh 1.0.1
git2r 0.24.0 glmnet 2.0-16 glue 1.3.0
gower 0.1.2 graphics 3.5.2 grDevices 3.5.2
grid 3.5.2 gridExtra 2.3 gsubfn 0.7
gtable 0.2.0 h2o 3.22.1.1 haven 2.1.0
hms 0.4.2 htmltools 0.3.6 htmlwidgets 1.3
httr 1.4.0 hwriter 1.3.2 hwriterPlus 1.0-3
ini 0.3.1 ipred 0.9-8 iterators 1.0.10
jsonlite 1.6 KernSmooth 2.23-15 labeling 0.3
lattice 0.20-38 lava 1.6.5 lazyeval 0.2.1
littler 0.3.6 lme4 1.1-20 lubridate 1.7.4
magrittr 1.5 mapproj 1.2.6 maps 3.3.0
maptools 0.9-5 MASS 7.3-51.1 矩阵 1.2-15
MatrixModels 0.4-1 memoise 1.1.0 方法 3.5.2
mgcv 1.8-27 mime 0.6 minqa 1.2.4
ModelMetrics 1.2.2 munsell 0.5.0 mvtnorm 1.0-9
nlme 3.1-137 nloptr 1.2.1 nnet 7.3-12
numDeriv 2016.8-1 openssl 1.2.2 openxlsx 4.1.0
parallel 3.5.2 pbkrtest 0.4-7 pillar 1.3.1
pkgbuild 1.0.2 pkgconfig 2.0.2 pkgKitten 0.1.4
pkgload 1.0.2 plogr 0.2.0 plyr 1.8.4
praise 1.0.0 prettyunits 1.0.2 pROC 1.13.0
processx 3.2.1 prodlim 2018.04.18 进度 1.2.0
proto 1.0.0 ps 1.3.0 purrr 0.3.0
quantreg 5.38 R.methodsS3 1.7.1 R.oo 1.22.0
R.utils 2.8.0 r2d3 0.2.3 R6 2.4.0
randomForest 4.6-14 rappdirs 0.3.1 rcmdcheck 1.3.2
RColorBrewer 1.1-2 Rcpp 1.0.0 RcppEigen 0.3.3.5.0
RcppRoll 0.3.0 RCurl 1.95-4.11 readr 1.3.1
readxl 1.3.0 recipes 0.1.4 rematch 1.0.1
remotes 2.0.2 reshape2 1.4.3 rio 0.5.16
rlang 0.3.1 RODBC 1.3-15 roxygen2 6.1.1
rpart 4.1-13 rprojroot 1.3-2 Rserve 1.8-6
RSQLite 2.1.1 rstudioapi 0.9.0 scales 1.0.0
sessioninfo 1.1.1 sp 1.3-1 sparklyr 1.0.0
SparkR 2.4.2 SparseM 1.77 spatial 7.3-11
splines 3.5.2 sqldf 0.4-11 SQUAREM 2017.10-1
statmod 1.4.30 stats 3.5.2 stats4 3.5.2
stringi 1.3.1 stringr 1.4.0 survival 2.43-3
sys 3.0 tcltk 3.5.2 TeachingDemos 2.10
testthat 2.0.1 tibble 2.0.1 tidyr 0.8.3
tidyselect 0.2.5 timeDate 3043.102 工具 3.5.2
usethis 1.4.0 utf8 1.1.4 utils 3.5.2
viridisLite 0.3.0 whisker 0.3-2 withr 2.1.2
xml2 1.2.0 xopen 1.0.0 yaml 2.2.0
zip 2.0.0

已安装的 Java 库和 Scala 库(Scala 2.11 群集版本)

组 ID 项目 ID 版本
antlr antlr 2.7.7
com.amazonaws amazon-kinesis-client 1.8.10
com.amazonaws aws-java-sdk-autoscaling 1.11.313
com.amazonaws aws-java-sdk-cloudformation 1.11.313
com.amazonaws aws-java-sdk-cloudfront 1.11.313
com.amazonaws aws-java-sdk-cloudhsm 1.11.313
com.amazonaws aws-java-sdk-cloudsearch 1.11.313
com.amazonaws aws-java-sdk-cloudtrail 1.11.313
com.amazonaws aws-java-sdk-cloudwatch 1.11.313
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.313
com.amazonaws aws-java-sdk-codedeploy 1.11.313
com.amazonaws aws-java-sdk-cognitoidentity 1.11.313
com.amazonaws aws-java-sdk-cognitosync 1.11.313
com.amazonaws aws-java-sdk-config 1.11.313
com.amazonaws aws-java-sdk-core 1.11.313
com.amazonaws aws-java-sdk-datapipeline 1.11.313
com.amazonaws aws-java-sdk-directconnect 1.11.313
com.amazonaws aws-java-sdk-directory 1.11.313
com.amazonaws aws-java-sdk-dynamodb 1.11.313
com.amazonaws aws-java-sdk-ec2 1.11.313
com.amazonaws aws-java-sdk-ecs 1.11.313
com.amazonaws aws-java-sdk-efs 1.11.313
com.amazonaws aws-java-sdk-elasticache 1.11.313
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.313
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.313
com.amazonaws aws-java-sdk-elastictranscoder 1.11.313
com.amazonaws aws-java-sdk-emr 1.11.313
com.amazonaws aws-java-sdk-glacier 1.11.313
com.amazonaws aws-java-sdk-iam 1.11.313
com.amazonaws aws-java-sdk-importexport 1.11.313
com.amazonaws aws-java-sdk-kinesis 1.11.313
com.amazonaws aws-java-sdk-kms 1.11.313
com.amazonaws aws-java-sdk-lambda 1.11.313
com.amazonaws aws-java-sdk-logs 1.11.313
com.amazonaws aws-java-sdk-machinelearning 1.11.313
com.amazonaws aws-java-sdk-opsworks 1.11.313
com.amazonaws aws-java-sdk-rds 1.11.313
com.amazonaws aws-java-sdk-redshift 1.11.313
com.amazonaws aws-java-sdk-route53 1.11.313
com.amazonaws aws-java-sdk-s3 1.11.313
com.amazonaws aws-java-sdk-ses 1.11.313
com.amazonaws aws-java-sdk-simpledb 1.11.313
com.amazonaws aws-java-sdk-simpleworkflow 1.11.313
com.amazonaws aws-java-sdk-sns 1.11.313
com.amazonaws aws-java-sdk-sqs 1.11.313
com.amazonaws aws-java-sdk-ssm 1.11.313
com.amazonaws aws-java-sdk-storagegateway 1.11.313
com.amazonaws aws-java-sdk-sts 1.11.313
com.amazonaws aws-java-sdk-support 1.11.313
com.amazonaws aws-java-sdk-swf-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.313
com.amazonaws jmespath-java 1.11.313
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics 流 (stream) 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.5.0-db8-spark2.4
com.databricks dbml-local_2.11-tests 0.5.0-db8-spark2.4
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo-shaded 4.0.2
com.esotericsoftware minlog 1.3.0
com.fasterxml classmate 1.0.0
com.fasterxml.jackson.core jackson-annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib core 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib native_system-java 1.1
com.github.fommil.netlib native_system-java-natives 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava guava 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.RELEASE
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.azure azure-storage 5.2.0
com.microsoft.sqlserver mssql-jdbc 6.2.2.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.9.3
com.twitter chill_2.11 0.9.3
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe config 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.7.3
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 3.1
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift aircompressor 0.10
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics metrics-healthchecks 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics metrics-servlets 3.1.5
io.netty netty 3.9.9.Final
io.netty netty-all 4.1.17.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx 收集器 0.7
javax.activation activation 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.14.6
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-properties 1.1.5
net.razorvine pyrolite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-ingest-sdk 0.9.5
net.snowflake snowflake-jdbc 3.6.15
net.snowflake spark-snowflake_2.11 2.4.10-spark_2.4
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow arrow-format 0.10.0
org.apache.arrow arrow-memory 0.10.0
org.apache.arrow arrow-vector 0.10.0
org.apache.avro avro 1.8.2
org.apache.avro avro-ipc 1.8.2
org.apache.avro avro-mapred-hadoop2 1.8.2
org.apache.calcite calcite-avatica 1.2.0-incubating
org.apache.calcite calcite-core 1.2.0-incubating
org.apache.calcite calcite-linq4j 1.2.0-incubating
org.apache.commons commons-compress 1.8.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3.5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.7.1
org.apache.curator curator-framework 2.7.1
org.apache.curator curator-recipes 2.7.1
org.apache.derby derby 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-incubating
org.apache.httpcomponents httpclient 4.5.4
org.apache.httpcomponents httpcore 4.4.8
org.apache.ivy ivy 2.4.0
org.apache.orc orc-core-nohive 1.5.2
org.apache.orc orc-mapreduce-nohive 1.5.2
org.apache.orc orc-shims 1.5.2
org.apache.parquet parquet-column 1.10.1.1-databricks3
org.apache.parquet parquet-common 1.10.1.1-databricks3
org.apache.parquet parquet-encoding 1.10.1.1-databricks3
org.apache.parquet parquet-format 2.4.0
org.apache.parquet parquet-hadoop 1.10.1.1-databricks3
org.apache.parquet parquet-jackson 1.10.1.1-databricks3
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm6-shaded 4.8
org.apache.zookeeper zookeeper 3.4.6
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler 3.0.10
org.codehaus.janino janino 3.0.10
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.20.v20170531
org.eclipse.jetty jetty-continuation 9.3.20.v20170531
org.eclipse.jetty jetty-http 9.3.20.v20170531
org.eclipse.jetty jetty-io 9.3.20.v20170531
org.eclipse.jetty jetty-jndi 9.3.20.v20170531
org.eclipse.jetty jetty-plus 9.3.20.v20170531
org.eclipse.jetty jetty-proxy 9.3.20.v20170531
org.eclipse.jetty jetty-security 9.3.20.v20170531
org.eclipse.jetty jetty-server 9.3.20.v20170531
org.eclipse.jetty jetty-servlet 9.3.20.v20170531
org.eclipse.jetty jetty-servlets 9.3.20.v20170531
org.eclipse.jetty jetty-util 9.3.20.v20170531
org.eclipse.jetty jetty-webapp 9.3.20.v20170531
org.eclipse.jetty jetty-xml 9.3.20.v20170531
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-guava 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core jersey-server 2.22.2
org.glassfish.jersey.media jersey-media-jaxb 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.5.3
org.json4s json4s-core_2.11 3.5.3
org.json4s json4s-jackson_2.11 3.5.3
org.json4s json4s-scalap_2.11 3.5.3
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis objenesis 2.5.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.12
org.scala-lang scala-library_2.11 2.11.12
org.scala-lang scala-reflect_2.11 2.11.12
org.scala-lang.modules scala-parser-combinators_2.11 1.1.0
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt test-interface 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalactic scalactic_2.11 3.0.3
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 3.0.3
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark unused 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani xz 1.5
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.7.1
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
stax stax-api 1.0.1
xmlenc xmlenc 0.52