Databricks Runtime 3.4 (no compatible)

Databricks publicó esta imagen en noviembre de 2017.

Importante

Esta versión quedó en desuso el 30 de julio de 2018. Para obtener más información sobre la directiva Databricks Runtime de desuso y la programación, consulte Ciclo de vida de soporte técnico del entorno de ejecución de Databricks.

En las notas de la versión siguientes se proporciona información sobre Databricks Runtime 3.4 con tecnología Apache Spark.

Cambios y mejoras

  • Se han introducido nuevas UDF vectorizadas para PySpark.
  • Capaz de limitar el número máximo de particiones en el almacén de consultas.
  • Se ha mejorado la comunicación de mensajes de error al instalar paquetes CRAN mediante la INTERFAZ de usuario y la API de la biblioteca de Databricks.
  • El controlador JDBC de MySQL se ha reemplazado por el controlador JDBC de MariaDB.
  • Se ha actualizado setuptools de la biblioteca de Python de 36.2.7 a 36.6.0, de 0.30.0a0 a 0.30.0.
  • R actualizado de 3.2.3 a 3.4.2.
  • Se han actualizado varias bibliotecas de R preinstaladas. Consulte Bibliotecas de R preinstaladas para obtener más información.
  • Se ha agregado cifrado AES para los clientes que requieren clústeres compatibles con HIPAA.

Spark de Apache

La Databricks Runtime 3.4 incluye Apache Spark 2.2.0. Databricks Runtime 3.4 también incluye las siguientes correcciones de errores adicionales y mejoras realizadas en Spark:

  • [SPARK-21718][SQL] Registro pesado de tipo: "Omisión de la partición basada en estadísticas..."
  • [SPARK-22278][SS] Exposición de la marca de agua de tiempo de evento actual y el tiempo de procesamiento actual en GroupState
  • [SPARK-22187][SS] Actualizar el formato unsaferow para el estado guardado de forma que podamos establecer tiempos de espera cuando el estado es NULL
  • [SPARK-22136][SS] Evaluación de condiciones de un lado al principio de las combinaciones de secuencias
  • [SPARK-20396][SQL][PYSPARK] groupby().apply() with pandas udf
  • [SPARK-22124][SQL] El ejemplo y el límite también deben aplazar la evaluación de entrada en codegen
  • [SPARK-21782][CORE] La repartición crea sesgos cuando numPartitions es una potencia de 2
  • [SPARK-21527] [CORE]Uso del límite de búfer para usar buffercache de JAVA NIO Util
  • [SPARK-22176][SQL] Corrección del problema de desbordamiento en Dataset.show
  • [SPARK-21410][CORE] Creación de menos particiones para RangePartitioner si RDD.count() es menor que las particiones
  • [SPARK-21517] [CORE]Evite copiar memoria al transferir fragmentos de forma remota
  • [SPARK-22238] Corrección del error de resolución del plan causado por EnsureStatefulOpPartitioning
  • [SPARK-22159] [SQL] Hagaque los nombres de configuración terminen de forma coherente con "enabled".
  • [SPARK-20331][SQL] Aplicación mejorada del predicado de recorte de particiones de Hive
  • [SPARK-22223][SQL] ObjectHashAggregate no debe introducir orden aleatorio innecesario
  • [SPARK-22263][SQL] Refactorización determinista como valor diferido
  • [SPARK-22257] [SQL]Reserve todas las expresiones no deterministas en ExpressionSet
  • [SPARK-21907][CORE] Corrección del desbordamiento
  • [SPARK-22252][SPARK-21165]Correcciones de errores de FileFormatWriter
  • [SPARK-22230] Intercambiar el orden por fila en la restauración del almacén de estado.
  • [SPARK-21988][SS] Implementación de StreamingRelation.computeStats para corregir la explicación
  • [SPARK-22170] [SQL]Reducir el consumo de memoria en las combinaciones de difusión
  • [SPARK-22206][SQL][SPARKR] gapply in R can't work on empty grouping columns
  • [SPARK-20466][CORE] HadoopRDD#addLocalConfiguration produce NPE
  • [SPARK-22178] [SQL]Actualizar vistas persistentes mediante el comando REFRESH TABLE
  • [SPARK-22158][SQL] convertMetastore no debe omitir la propiedad table
  • [SPARK-22146] FileNotFoundException al leer archivos ORC que contienen caracteres especiales
  • [SPARK-22161][SQL] Agregar consultas TPC-DS modificadas por Impala
  • [SPARK-22129][SPARK-22138] Mejoras en el script de versión
  • [SPARK-22143][SQL] Corrección de la pérdida de memoria en OffHeapColumnVector
  • [SPARK-22140] Agregar TPCDSQuerySuite
  • [SPARK-22214][SQL] Refactorizar el código de particiones de Hive de lista
  • [SPARK-22136][SS] Implementación de combinaciones externas de secuencias.
  • [SPARK-22053][SS] Stream-stream inner join in Append Mode
  • [SPARK-22153] [SQL]Rename ShuffleExchange -ShuffleExchangeExec
  • [SPARK-22160] [SQL]Haga que los puntos de ejemplo por partición (en el particionador de intervalos) se configurablen y suba el valor predeterminado hasta 100.
  • [SPARK-22159] [SQL] Hagaque los nombres de configuración terminen de forma coherente con "enabled".
  • [SPARK-22141] [SQL]Propagar la relación vacía antes de comprobar los productos cartesianos
  • [SPARK-22120][SQL] TestHiveSparkSession.reset() debe limpiar el directorio de almacenamiento de Hive
  • [SPARK-22083][CORE] Bloqueos de versión en MemoryStore.evictBlocksToFreeSpace
  • [SPARK-22107] Cambio de alias en la guía de inicio rápido de Python
  • [SPARK-22109] [SQL]Resuelve conflictos de tipos entre cadenas y marcas de tiempo en la columna de partición
  • [SPARK-22092] La reasignación en OffHeapColumnVector.reserveInternal daña los datos de struct y matriz
  • [SPARK-18136] Corrección SPARK_JARS_DIR instalación de pip de Python en Windows
  • [SPARK-22094][SS] processAllAvailable debe comprobar el estado de la consulta
  • [SPARK-21928] [CORE]Establecer el cargador de clases en el objeto private de SerializerManager
  • [SPARK-22076][SQL] Expand.projections no debe ser una secuencia
  • [SPARK-22052] Métrica incorrecta asignada en MetricsReporter.scala
  • [SPARK-22043][PYTHON] Mejora el mensaje de error para show_profiles y dump_profiles
  • [SPARK-21953] Mostrar bytes de memoria y de disco desbordados si alguno de ellos está presente
  • [SPARK-21985][PYSPARK] PairDeserializer se ha roto para los RDD de doble compresión
  • [SPARK-18608][ML][FOLLOWUP] Corrección del almacenamiento en caché doble para PySpark OneVsRest.
  • [SPARK-21980][SQL] Las referencias de las funciones de agrupación se deben indexar con semanticEquals
  • [SPARK-22103] Mover el consumo primario hashAggregateExec a una función independiente
  • [SPARK-22141] [SQL]Propagar la relación vacía antes de comprobar los productos cartesianos
  • [SPARK-21977] Las optimizaciones de SinglePartition rompen determinados requisitos de agregación con estado de streaming

Problemas conocidos

  • Los vínculos de registro de la página del ejecutor no se establecen correctamente. Use la página de trabajo para acceder a los vínculos stdout y stderr de un ejecutor por ahora.

Actualizaciones de mantenimiento

Vea Databricks Runtime actualizaciones de mantenimiento de la versión 3.4.

Entorno del sistema

  • Sistema operativo: Ubuntu 16.04.3 LTS
  • Java: 1.8.0_131
  • Scala: 2.10.6 (versión de clúster de Scala 2.10)/2.11.8 (versión del clúster de Scala 2.11)
  • Python: 2.7.12 (o 3.5.2 si la compatibilidad con Python 3 está habilitada)
  • R: R versión 3.4.2 (2017-09-28)
  • En el caso de los clústeres de GPU, se instalan las siguientes bibliotecas de GPU de NVIDIA:
    • CUDA 8.0
    • CUDNN 6.0

Bibliotecas de Python preinstaladas

Biblioteca Versión Biblioteca Versión Biblioteca Versión
ansi2html 1.1.1 argparse 1.2.1 backports-abc 0,5
Boto 2.42.0 boto3 1.4.1 botocore 1.4.70
brew2mpl 1.4.1 certifi 2016.2.28 cffi 1.7.0
chardet 2.3.0 Colorama 0.3.7 configobj 5.0.6
criptografía 1.5 Cycler 0.10.0 Cython 0.24.1
Decorador 4.0.10 docutils 0,14 enum34 1.1.6
et-xmlfile 1.0.1 freetype-py 1.0.2 funcsigs 1.0.2
fusepy 2.0.4 futuros 3.1.1 ggplot 0.6.8
html5lib 0.999 Idna 2.1 ipaddress 1.0.16
ipython 2.2.0 ipython-genutils 0.1.0 jdcal 1.2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe 0,23 matplotlib 1.5.3
mpld3 0,2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
lugar de vida 0.28.1 numpy 1.11.1 openpyxl 2.3.2
Pandas 0.18.1 pathlib2 2.1.0 Patsy 0.4.1
pexpect 4.0.1 pickleshare 0.7.4 Almohada 3.3.1
pip 9.0.1 Capas 3.9 prompt-toolkit 1.0.7
psycopg2 2.6.2 ptyprocess 0.5.1 py4j 0.10.3
pyarrow 0.4.1 pyasn1 0.1.9 pycparser 2.14
Pygments 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing 2.2.0 pypng 0.0.18 Python 2.7.12
Python-dateutil 2.5.3 python-geohash 0.8.5 pytz 2016.6.1
Solicitudes 2.11.1 s3transfer 0.1.9 scikit-learn 0.18.1
scipy 0.18.1 Fregado 0,32 seaborn 0.7.1
setuptools 36.6.0 simplejson 3.8.2 simples3 1.0
singledispatch 3.4.0.3 six (seis) 1.10.0 statsmodels 0.6.1
Tornado 4.5.2 traitlets 4.3.0 urllib3 1.19.1
virtualenv 15.0.1 wcwidth 0.1.7 wheel 0.30.0
wsgiref 0.1.2

Bibliotecas de R preinstaladas

Biblioteca Versión Biblioteca Versión Biblioteca Versión
abind 1.4-5 assertthat 0.2.0 backports 1.1.1
base 3.4.2 BH 1.65.0-1 bindr 0,1
bindrcpp 0,2 bit 1.1-12 bit64 0.9-7
bitops 1.0-6 blob 1.1.0 boot 1.3-20
brew 1.0-6 automóvil 2.1-5 caret 6.0-77
chron 2.3-51 clase 7.3-14 cluster 2.0.6
codetools 0.2-15 colorspace 1.3-2 commonmark 1.4
compiler 3.4.2 crayon 1.3.4 curl 3.0
CVST 0.2-1 data.table 1.10.4 conjuntos de datos 3.4.2
DBI 0,7 ddalpha 1.3.1 DEoptimR 1.0-8
desc 1.1.1 devtools 1.13.3 dichromat 2.0-0
digest 0.6.12 dimRed 0.1.0 doMC 1.3.4
dplyr 0.7.4 DRR 0.0.2 foreach 1.4.3
foreign 0.8-69 gbm 2.1.3 ggplot2 2.2.1
git2r 0.19.0 glmnet 2.0-13 glue 1.1.1
gower 0.1.2 graphics 3.4.2 grDevices 3.4.2
cuadrícula 3.4.2 gsubfn 0.6-6 gtable 0.2.0
H2o 3.14.0.3 httr 1.3.1 hwriter 1.3.2
hwriterPlus 1.0-3 ipred 0.9-6 iterators 1.0.8
jsonlite 1.5 kernlab 0.9-25 KernSmooth 2.23-15
labeling 0,3 lattice 0.20-35 lava 1.5.1
lazyeval 0.2.0 littler 0.3.2 lme4 1.1-14
lubridate 1.6.0 magrittr 1.5 mapproj 1.2-5
maps 3.2.0 MASS 7.3-47 Matriz 1.2-11
MatrixModels 0.4-1 memoise 1.1.0 methods 3.4.2
mgcv 1.8-22 mime 0,5 minqa 1.2.4
ModelMetrics 1.1.0 munsell 0.4.3 mvtnorm 1.0-6
nlme 3.1-131 nloptr 1.0.4 nnet 7.3-12
numDeriv 2016.8-1 openssl 0.9.7 parallel 3.4.2
pbkrtest 0.4-7 pkgconfig 2.0.1 pkgKitten 0.1.4
plogr 0.1-1 plyr 1.8.4 praise 1.0.0
pROC 1.10.0 prodlim 1.6.1 proto 1.0.0
purrr 0.2.3 quantreg 5.33 R.methodsS3 1.7.1
R.oo 1.21.0 R.utils 2.5.0 R6 2.2.2
randomForest 4.6-12 RColorBrewer 1.1-2 Rcpp 0.12.13
RcppEigen 0.3.3.3.0 RcppRoll 0.2.2 RCurl 1.95-4.8
recipes 0.1.0 reshape2 1.4.2 rlang 0.1.2
robustbase 0.92-7 RODBC 1.3-15 roxygen2 6.0.1
rpart 4.1-11 rprojroot 1.2 Rserve 1.7-3
RSQLite 2.0 rstudioapi 0.7 scales 0.5.0
sfsmisc 1.1-1 sp 1.2-5 SparkR 2.2.0
SparseM 1.77 spatial 7.3-11 splines 3.4.2
sqldf 0.4-11 statmod 1.4.30 stats 3.4.2
stats4 3.4.2 stringi 1.1.5 stringr 1.2.0
survival 2.41-3 tcltk 3.4.2 TeachingDemos 2,10
testthat 1.0.2 tibble 1.3.4 tidyselect 0.2.0
timeDate 3012.100 herramientas 3.4.2 utils 3.4.2
viridisLite 0.2.0 whisker 0.3-2 withr 2.0.0
xml2 1.1.1

Bibliotecas de Java y Scala preinstaladas (versión de clúster de Scala 2.10)

Identificador de grupo Id. de artefacto Versión
antlr antlr 2.7.7
com.amazonaws amazon-wcf-client 1.7.3
com.amazonaws aws-java-sdk-autoscaling 1.11.126
com.amazonaws aws-java-sdk-cloudprograma 1.11.126
com.amazonaws aws-java-sdk-cloudfront 1.11.126
com.amazonaws aws-java-sdk-cloudhsm 1.11.126
com.amazonaws aws-java-sdk-cloudsearch 1.11.126
com.amazonaws aws-java-sdk-cloudtrail 1.11.126
com.amazonaws aws-java-sdk-cloudwatch 1.11.126
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.126
com.amazonaws aws-java-sdk-codedeploy 1.11.126
com.amazonaws aws-java-sdk-cognitoidentity 1.11.126
com.amazonaws aws-java-sdk-cognitosync 1.11.126
com.amazonaws aws-java-sdk-config 1.11.126
com.amazonaws aws-java-sdk-core 1.11.126
com.amazonaws aws-java-sdk-datapipeline 1.11.126
com.amazonaws aws-java-sdk-directconnect 1.11.126
com.amazonaws aws-java-sdk-directory 1.11.126
com.amazonaws aws-java-sdk-dynamodb 1.11.126
com.amazonaws aws-java-sdk-ec2 1.11.126
com.amazonaws aws-java-sdk-ecs 1.11.126
com.amazonaws aws-java-sdk-efs 1.11.126
com.amazonaws aws-java-sdk-cache 1.11.126
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.126
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.126
com.amazonaws aws-java-sdk-elastictranscoder 1.11.126
com.amazonaws aws-java-sdk-emr 1.11.126
com.amazonaws aws-java-sdk-javascript 1.11.126
com.amazonaws aws-java-sdk-iam 1.11.126
com.amazonaws aws-java-sdk-importexport 1.11.126
com.amazonaws aws-java-sdk-javascript 1.11.126
com.amazonaws aws-java-sdk-kms 1.11.126
com.amazonaws aws-java-sdk-lambda 1.11.126
com.amazonaws aws-java-sdk-logs 1.11.126
com.amazonaws aws-java-sdk-machinelearning 1.11.126
com.amazonaws aws-java-sdk-opsworks 1.11.126
com.amazonaws aws-java-sdk-rds 1.11.126
com.amazonaws aws-java-sdk-redshift 1.11.126
com.amazonaws aws-java-sdk-route53 1.11.126
com.amazonaws aws-java-sdk-s3 1.11.126
com.amazonaws aws-java-sdk-ses 1.11.126
com.amazonaws aws-java-sdk-simpledb 1.11.126
com.amazonaws aws-java-sdk-simpleworkflow 1.11.126
com.amazonaws aws-java-sdk-sdk-sdk 1.11.126
com.amazonaws aws-java-sdk-sqs 1.11.126
com.amazonaws aws-java-sdk-ssm 1.11.126
com.amazonaws aws-java-sdk-storagegateway 1.11.126
com.amazonaws aws-java-sdk-sts 1.11.126
com.amazonaws aws-java-sdk-support 1.11.126
com.amazonaws aws-java-sdk-javascript-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.126
com.amazonaws jmespath-java 1.11.126
com.searchsearch Hppc 0.7.1
com.seusai shapeless_2.10 2.3.2
com.clearspring.analytics flujo 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.10 0.2.2-db1-spark2.2
com.databricks dbml-local_2.10-tests 0.2.2-db1-spark2.2
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.10 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.10 0.4.15-9
com.esotericsoftware sombreado en forma de sombra 3.0.3
com.esotericsoftware minlog 1.3.0
com.fasterxml Compañero 1.0.0
com.fasterxml.jackson.core annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.10 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib core 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib native_system-java 1.1
com.github.fommil.netlib native_system-java-natives 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.rwl jtransforms 2.4.0
com.google.code.find qrs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guva Guayaba 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jamestirty.utils java-xmlbuilder 1.0
com.jcraft jsch 0.1.50
com.box cpcp 0.8.0.RELEASE
com.mchange c3p0 0.9.5.1
com.mchange mchange-commons-java 0.2.10
com.microsoft.azure azure-data-lake-store-sdk 2.0.11
com.microsoft.sqlserver mssql-jdbc 6.1.0.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.6
com.trueaccord.lenses lenses_2.10 0,3
com.twitter chill-java 0.8.0
com.twitter chill_2.10 0.8.0
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.10 6.23.0
com.twitter util-core_2.10 6.23.0
com.twitter util-jvm_2.10 6.23.0
com.typesafe config 1.2.1
com.typesafe scalalogging-slf4j_2.10 1.1.0
com.univocity univocity-parsers 2.2.1
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 2.4.1
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 2.2
commons-pool commons-pool 1.5.4
info.lia.gmetric4j gmetric4j 1.0.7
io.dropwizard.metrics metrics-core 3.1.2
io.dropwizard.metrics metrics-metrics-metrics 3.1.2
io.dropwizard.metrics metrics-graphite 3.1.2
io.dropwizard.metrics metrics-healthchecks 3.1.2
io.dropwizard.metrics metrics-jetty9 3.1.2
io.dropwizard.metrics metrics-json 3.1.2
io.dropwizard.metrics metrics-jvm 3.1.2
io.dropwizard.metrics metrics-log4j 3.1.2
io.dropwizard.metrics metrics-servlets 3.1.2
io.netty Netty 3.9.9.Final
io.netty netty-all 4.0.43.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx recopilador 0,7
javax.activation activation 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.11
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
mx4j mx4j 3.0.2
net.matic eigenbase-properties 1.1.5
net.iharder base64 2.3.8
net.java.dev.jets3t jets3t 0.9.3
net.jpountz.lz4 lz4 1.3.0
net.razorvine litelite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.sourceforge.f2j arpack_combined_all 0,1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.5.3
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow formato de flecha 0.4.0
org.apache.arrow arrow-memory 0.4.0
org.apache.arrow arrow-vector 0.4.0
org.apache.avro avro 1.7.7
org.apache.avro avro-ipc 1.7.7
org.apache.avro avro-ipc-tests 1.7.7
org.apache.avro avro-mapred-hadoop2 1.7.7
org.apache.calcite calcite-avatica 1.2.0-resalte
org.apache.calcite calcite-core 1.2.0-resalte
org.apache.calcite calcite-linq4j 1.2.0-resalte
org.apache.commons commons-compress 1.4.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3,5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.6.0
org.apache.curator curator-framework 2.6.0
org.apache.curator curator-recipes 2.6.0
org.apache.hudson Derby 10.10.2.0
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop común 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-resalte
org.apache.httpcomponents httpclient 4.5.2
org.apache.httpcomponents httpcore 4.4.4
org.apache.ivy ivy 2.4.0
org.apache.parquet parquet-column 1.8.2-databricks1
org.apache.parquet común parquet 1.8.2-databricks1
org.apache.parquet codificación parquet 1.8.2-databricks1
org.apache.parquet formato parquet 2.3.1
org.apache.parquet parquet-hadoop 1.8.2-databricks1
org.apache.parquet parquet-parquet 1.8.2-databricks1
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm5-shaded 4.4.
org.apache.zookeeper Zookeeper 3.4.6
org.bouncycastle bcprov-jdk15on 1.51
org.codeasser.jackson michael-core-asl 1.9.13
org.codeasser.jackson michael-rs 1.9.13
org.codeasser.jackson jackson-mapper-asl 1.9.13
org.codeasser.jackson jackson-xc 1.9.13
org.code edition.janino commons-compiler 3.0.0
org.code edition.janino janino 3.0.0
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.11.v20160721
org.eclipse.jetty jetty-continuation 9.3.11.v20160721
org.eclipse.jetty jetty-http 9.3.11.v20160721
org.eclipse.jetty jetty-io 9.3.11.v20160721
org.eclipse.jetty jetty-jndi 9.3.11.v20160721
org.eclipse.jetty jetty-plus 9.3.11.v20160721
org.eclipse.jetty jetty-proxy 9.3.11.v20160721
org.eclipse.jetty jetty-security 9.3.11.v20160721
org.eclipse.jetty jetty-server 9.3.11.v20160721
org.eclipse.jetty jetty-servlet 9.3.11.v20160721
org.eclipse.jetty jetty-servlets 9.3.11.v20160721
org.eclipse.jetty jetty-util 9.3.11.v20160721
org.eclipse.jetty jetty-webapp 9.3.11.v20160721
org.eclipse.jetty jetty-xml 9.3.11.v20160721
org.fusesource.jansi jansi 1.4
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-suva 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core servidor de jersey 2.22.2
org.glassfish.jersey.media jersey-media-mientob 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0,2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.jpmml pmml-model 1.2.15
org.jpmml pmml-schema 1.2.15
org.json4s json4s-ast_2.10 3.2.11
org.json4s json4s-core_2.10 3.2.11
org.json4s json4s-jackson_2.10 3.2.11
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis lenesis 2.1
org.postgresql postgresql 9.4-1204-jdbc41
org.queringbitmap Aficiónbitmap 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang jline 2.10.6
org.scala-lang scala-compiler_2.10 2.10.6
org.scala-lang scala-library_2.10 2.10.6
org.scala-lang scala-reflect_2.10 2.10.6
org.scala-lang scalap_2.10 2.10.6
org.scala-sbt test-interface 1.0
org.scalacheck scalacheck_2.10 1.12.5
org.scalamacros quasiquotes_2.10 2.0.0
org.scalanlp breeze-macros_2.10 0.13.2
org.scalanlp breeze_2.10 0.13.2
org.scalatest scalatest_2.10 2.2.6
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark unused 1.0.0
org.spire-math spire-macros_2.10 0.13.0
org.spire-math spire_2.10 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani Xz 1.0
org.typelevel machinist_2.10 0.6.1
org.typelevel macro-compat_2.10 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.2.6
org.yaml lugaryaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
Stax stax-api 1.0.1
xmlenc xmlenc 0,52

Bibliotecas de Java y Scala preinstaladas (versión de clúster de Scala 2.11)

Identificador de grupo Id. de artefacto Versión
antlr antlr 2.7.7
com.amazonaws amazon-kinesis-client 1.7.3
com.amazonaws aws-java-sdk-autoscaling 1.11.126
com.amazonaws aws-java-sdk-cloudprograma 1.11.126
com.amazonaws aws-java-sdk-cloudfront 1.11.126
com.amazonaws aws-java-sdk-cloudhsm 1.11.126
com.amazonaws aws-java-sdk-cloudsearch 1.11.126
com.amazonaws aws-java-sdk-cloudtrail 1.11.126
com.amazonaws aws-java-sdk-cloudwatch 1.11.126
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.126
com.amazonaws aws-java-sdk-codedeploy 1.11.126
com.amazonaws aws-java-sdk-cognitoidentity 1.11.126
com.amazonaws aws-java-sdk-cognitosync 1.11.126
com.amazonaws aws-java-sdk-config 1.11.126
com.amazonaws aws-java-sdk-core 1.11.126
com.amazonaws aws-java-sdk-datapipeline 1.11.126
com.amazonaws aws-java-sdk-directconnect 1.11.126
com.amazonaws aws-java-sdk-directory 1.11.126
com.amazonaws aws-java-sdk-dynamodb 1.11.126
com.amazonaws aws-java-sdk-ec2 1.11.126
com.amazonaws aws-java-sdk-ecs 1.11.126
com.amazonaws aws-java-sdk-efs 1.11.126
com.amazonaws aws-java-sdk-cache 1.11.126
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.126
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.126
com.amazonaws aws-java-sdk-elastictranscoder 1.11.126
com.amazonaws aws-java-sdk-emr 1.11.126
com.amazonaws aws-java-sdk-hall 1.11.126
com.amazonaws aws-java-sdk-iam 1.11.126
com.amazonaws aws-java-sdk-importexport 1.11.126
com.amazonaws aws-java-sdk-javascript 1.11.126
com.amazonaws aws-java-sdk-kms 1.11.126
com.amazonaws aws-java-sdk-lambda 1.11.126
com.amazonaws aws-java-sdk-logs 1.11.126
com.amazonaws aws-java-sdk-machinelearning 1.11.126
com.amazonaws aws-java-sdk-opsworks 1.11.126
com.amazonaws aws-java-sdk-rds 1.11.126
com.amazonaws aws-java-sdk-redshift 1.11.126
com.amazonaws aws-java-sdk-route53 1.11.126
com.amazonaws aws-java-sdk-s3 1.11.126
com.amazonaws aws-java-sdk-ses 1.11.126
com.amazonaws aws-java-sdk-simpledb 1.11.126
com.amazonaws aws-java-sdk-simpleworkflow 1.11.126
com.amazonaws aws-java-sdk-sns 1.11.126
com.amazonaws aws-java-sdk-sqs 1.11.126
com.amazonaws aws-java-sdk-ssm 1.11.126
com.amazonaws aws-java-sdk-storagegateway 1.11.126
com.amazonaws aws-java-sdk-sts 1.11.126
com.amazonaws aws-java-sdk-support 1.11.126
com.amazonaws aws-java-sdk-javascript-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.126
com.amazonaws jmespath-java 1.11.126
com.searchsearch Hppc 0.7.1
com.seusai shapeless_2.11 2.3.2
com.clearspring.analytics flujo 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.2.2-db1-spark2.2
com.databricks dbml-local_2.11-tests 0.2.2-db1-spark2.2
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware sombreado en forma de sombra 3.0.3
com.esotericsoftware minlog 1.3.0
com.fasterxml Compañero 1.0.0
com.fasterxml.jackson.core annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib core 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib native_system-java 1.1
com.github.fommil.netlib native_system-java-natives 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.rwl jtransforms 2.4.0
com.google.code.find qrs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.queva Guayaba 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.james dsmty.utils java-xmlbuilder 1.0
com.jcraft jsch 0.1.50
com.nchbox cpcp 0.8.0.RELEASE
com.mchange c3p0 0.9.5.1
com.mchange mchange-commons-java 0.2.10
com.microsoft.azure azure-data-lake-store-sdk 2.0.11
com.microsoft.sqlserver mssql-jdbc 6.1.0.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.6
com.trueaccord.lenses lenses_2.11 0,3
com.twitter chill-java 0.8.0
com.twitter chill_2.11 0.8.0
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe config 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.2.1
com.vl vl flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 2.4.1
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 2.2
commons-pool commons-pool 1.5.4
info.lia.gmetric4j gmetric4j 1.0.7
io.dropwizard.metrics metrics-core 3.1.2
io.dropwizard.metrics metrics-camelia 3.1.2
io.dropwizard.metrics metrics-graphite 3.1.2
io.dropwizard.metrics metrics-healthchecks 3.1.2
io.dropwizard.metrics metrics-jetty9 3.1.2
io.dropwizard.metrics metrics-json 3.1.2
io.dropwizard.metrics metrics-jvm 3.1.2
io.dropwizard.metrics metrics-log4j 3.1.2
io.dropwizard.metrics metrics-servlets 3.1.2
io.netty Netty 3.9.9.Final
io.netty netty-all 4.0.43.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx recopilador 0,7
javax.activation activation 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.11
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
mx4j mx4j 3.0.2
net.matic eigenbase-properties 1.1.5
net.iharder base64 2.3.8
net.java.dev.jets3t jets3t 0.9.3
net.jpountz.lz4 lz4 1.3.0
net.razorvine litelite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.sourceforge.f2j arpack_combined_all 0,1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.5.3
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow formato de flecha 0.4.0
org.apache.arrow arrow-memory 0.4.0
org.apache.arrow arrow-vector 0.4.0
org.apache.avro avro 1.7.7
org.apache.avro avro-ipc 1.7.7
org.apache.avro avro-ipc-tests 1.7.7
org.apache.avro avro-mapred-hadoop2 1.7.7
org.apache.calcite calcite-avatica 1.2.0-resalte
org.apache.calcite calcite-core 1.2.0-resalte
org.apache.calcite calcite-linq4j 1.2.0-resalte
org.apache.commons commons-compress 1.4.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3,5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.6.0
org.apache.curator curator-framework 2.6.0
org.apache.curator curator-recipes 2.6.0
org.apache.hudson Derby 10.10.2.0
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop común 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-resalte
org.apache.httpcomponents httpclient 4.5.2
org.apache.httpcomponents httpcore 4.4.4
org.apache.ivy ivy 2.4.0
org.apache.parquet parquet-column 1.8.2-databricks1
org.apache.parquet parquet común 1.8.2-databricks1
org.apache.parquet codificación parquet 1.8.2-databricks1
org.apache.parquet formato parquet 2.3.1
org.apache.parquet parquet-hadoop 1.8.2-databricks1
org.apache.parquet parquet-jackson 1.8.2-databricks1
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm5 sombreado 4.4.
org.apache.zookeeper Zookeeper 3.4.6
org.bouncycastle bcprov-jdk15on 1.51
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-rs 1.9.13
org.codeasser.jackson jackson-mapper-asl 1.9.13
org.codeasser.jackson jackson-xc 1.9.13
org.code edition.janino commons-compiler 3.0.0
org.code edition.janino janino 3.0.0
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.11.v20160721
org.eclipse.jetty jetty-continuation 9.3.11.v20160721
org.eclipse.jetty jetty-http 9.3.11.v20160721
org.eclipse.jetty jetty-io 9.3.11.v20160721
org.eclipse.jetty jetty-jndi 9.3.11.v20160721
org.eclipse.jetty jetty-plus 9.3.11.v20160721
org.eclipse.jetty jetty-proxy 9.3.11.v20160721
org.eclipse.jetty jetty-security 9.3.11.v20160721
org.eclipse.jetty jetty-server 9.3.11.v20160721
org.eclipse.jetty jetty-servlet 9.3.11.v20160721
org.eclipse.jetty jetty-servlets 9.3.11.v20160721
org.eclipse.jetty jetty-util 9.3.11.v20160721
org.eclipse.jetty jetty-webapp 9.3.11.v20160721
org.eclipse.jetty jetty-xml 9.3.11.v20160721
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.mail.bundles.repackaged jersey-guva 2.22.2
org.glassfish.mail.containers jersey-container-servlet 2.22.2
org.glassfish.mail.containers jersey-container-servlet-core 2.22.2
org.glassfish.mail.core jersey-client 2.22.2
org.glassfish.mail.core común de new-in-mail 2.22.2
org.glassfish.jersey.core servidor de jersey 2.22.2
org.glassfish.jersey.media jersey-media-mientob 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0,2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.jpmml pmml-model 1.2.15
org.jpmml pmml-schema 1.2.15
org.json4s json4s-ast_2.11 3.2.11
org.json4s json4s-core_2.11 3.2.11
org.json4s json4s-jackson_2.11 3.2.11
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis lenesis 2.1
org.postgresql postgresql 9.4-1204-jdbc41
org.bingingbitmap AficiónBitmap 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.8
org.scala-lang scala-library_2.11 2.11.8
org.scala-lang scala-reflect_2.11 2.11.8
org.scala-lang scalap_2.11 2.11.8
org.scala-lang.modules scala-parser-combinators_2.11 1.0.2
org.scala-lang.modules scala-xml_2.11 1.0.2
org.scala-sbt test-interface 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalanlp macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 2.2.6
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark unused 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani Xz 1.0
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.2.6
org.yaml yyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
Stax stax-api 1.0.1
xmlenc xmlenc 0,52