Databricks Runtime 7.2 (неподдерживаемый)
Этот образ выпущен Databricks в августе 2020 г.
В следующих заметках о выпуске содержатся сведения о Databricks Runtime 7.2 на платформе Apache Spark 3.0.
Новые возможности
Databricks Runtime 7.2 содержит следующие новые функции:
Автозагрузчик является общедоступным
Автозагрузчик — это эффективный метод инкрементного приема большого числа файлов в Delta Lake. Теперь он является общедоступным и предоставляет следующие дополнительные компоненты: список каталогов, API управления облачными ресурсами, параметр ограничения скорости и проверка параметров.
Режим формирования списка каталогов.
Автозагрузчик добавляет новый режим списка каталогов, помимо существующего режима уведомления о файлах, позволяя определить, появились ли новые файлы.
- Режим списка каталогов: в некоторых сценариях необходимо регулярно выполнять потоковую передачу всего нескольких файлов. В таких случаях определение новых файлов создания параллельного списка для каталога входных данных и их приема будет достаточно эффективным. Это позволяет запускать потоки автозагрузчика без конфигурации разрешений. Режим списка каталогов — это режим по умолчанию для автозагрузчика из Databricks Runtime 7.2 и более поздних версий.
- Режим уведомления файлов: можно явным образом выбрать режим уведомления для файлов, который обеспечит повышенную производительность и масштабируемость для входных каталогов большого размера, но необходимо настроить разрешения службы уведомлений для подписки на события файла и задать
.option("cloudFiles.useNotifications", "true"). Существующие потоки автозагрузчика, запущенные в Databricks Runtime 7.1 и более ранних версий, автоматически регистрируются в режиме уведомления о файлах при обновлении до Databricks Runtime 7.2.
Подробные сведения см. в статье об автозагрузчике.
API управления облачными ресурсами
Теперь можно использовать API Scala для управления облачными ресурсами, созданными с помощью автозагрузчика. С помощью этого API можно создать список служб уведомлений и удалить определенные службы уведомлений. Дополнительные сведения см. в разделе "Настройка или управление ресурсами уведомлений о файлах" вручную.
Параметр ограничения скорости
Теперь можно использовать параметр cloudFiles.maxBytesPerTrigger для ограничения объема данных, обрабатываемых в каждом микропакете. Можно указать строку байтов, например 10g, чтобы ограничить каждый микропакет до 10 ГБ данных. Это мягкое ограничение. Если у вас есть файлы размером 3 ГБ каждый, Azure Databricks обработает микропакет 12 ГБ. Этот параметр не действует при использовании с Trigger.Once(). Если этот параметр не указан, для ограничения скорости используется значение по умолчанию, равное cloudFiles.maxFilesPerTrigger 1000 файлов. При совместном использовании с cloudFiles.maxFilesPerTrigger Azure Databricks потребляет до нижнего предела cloudFiles.maxFilesPerTrigger или cloudFiles.maxBytesPerTrigger, в зависимости от того, что будет достигнуто раньше.
Подробные сведения см. в статье об автозагрузчике.
Проверка параметров
Автозагрузчик теперь проверяет указанные вами параметры. Если указать неизвестный параметр, то автозагрузчик возвращает ошибку вместо того, чтобы автоматически игнорировать параметр. Проверка также обнаруживает несоответствия в указанных параметрах. Например, если задать значение cloudFiles.useNotifications равным false и в то же время указать параметры разрешений для службы «Сетка событий Azure» и «Хранилище очередей Azure», в validation произойдет сбой. Чтобы пропустить проверку параметров, задайте для параметра cloudFiles.validateOptions значение false.
Изменения в значениях и совместимости параметров по умолчанию
Поведение некоторых параметров автозагрузчика по умолчанию изменено в Databricks Runtime 7.2. Чтобы обеспечить совместимость, поведение потоков, запущенных в Databricks Runtime 7.1 и более ранних версий, останется неизменным даже после обновления вплоть до выполнения таких потоков в кластере, на котором запущен Databricks Runtime 7.2 или более поздней версии. См. статью об автозагрузчике.
Простое и быстрое копирование таблицы Delta с помощью clone (общедоступная предварительная версия)
Теперь вы можете эффективно создать поверхностную или глубокую копию таблицы Delta в конкретной версии с помощью команды clone. Глубокий клон — это отдельный клон таблицы Delta, сформированный путем копирования файлов параллельно из исходной в целевую таблицу. Неглубокий клон — это клон, созданный при минимальных затратах, который не копирует файлы в целевую таблицу, но создает указание на файлы в исходной таблице. Все изменения, внесенные в глубокий или поверхностный клон, влияют только на клон, а не на исходную таблицу. См. раздел Клонирование таблицы в Azure Databricks.
Усовершенствования
Соединитель Snowflake: соединитель обновлен до версии 2.8.1, которая включает поддержку Spark 3.0.
Удобство использования PySpark: при сбое UDF PySpark или Pandas Azure Databricks теперь выводит исключение на стороне Python и последнюю выполненную строку кода записной книжки (если применимо) в верхней части сообщения об ошибке.
Сквозная передача учетных данных
- Теперь можно использовать функцию преобразования LDA в кластере с транзитным включением.
- Теперь можно задать каталог контрольных точек хранилища в кластере с поддержкой сквозной передачи.
Кластерные библиотеки: Azure Databricks теперь обрабатывает все кластерные библиотеки в том порядке, в котором они были установлены в кластере. В Databricks Runtime 7.1 и более ранних версий только библиотеки Maven и CRAN обрабатывались в том порядке, в котором они были установлены в кластере. Другие библиотеки устанавливались в недетерминированном порядке.
TensorBoard
- Управление процессами TensorBoard с помощью API
tensorboard.notebook. - В одном кластере может выполняться несколько серверных частей TensorBoard.
- В записных книжках Python настройте встроенное отображение пользовательского интерфейса TensorBoard с помощью магической команды
%tensorboardв строке. dbutils.tensorboardне рекомендуется к использованию.
См. раздел TensorBoard.
- Управление процессами TensorBoard с помощью API
Обновленные библиотеки Python:
- обновление jmespath с версии 0.9.4 до 0.10.0.
- обновление koalas с версии 1.0.1 до 1.1.0.
Обновлены несколько установленных библиотек R. См. Установленные библиотеки R.
Apache Spark
Databricks Runtime 7.2 включает Apache Spark 3.0.0. Этот выпуск включает все исправления Spark и улучшения, включенные в Databricks Runtime 7.1 (неподдерживаемые), а также следующие дополнительные исправления ошибок и улучшения, внесенные в Spark:
- [SPARK-32234] [SQL] Командам SQL Spark не удается совершить выборку из таблиц orc
- [SPARK-30616] [SQL] Добавление параметра конфигурации TTL для кэша метаданных SQL
- [SPARK-21117] [SQL] Поддержка встроенных функций SQL - WIDTH_BUCKET
- [SPARK-32168] [SQL] Исправление ошибки правильности скрытого секционирования при перезаписи SQL
- [SPARK-31935] Конфигурация файла Hadoop должна быть эффективной в параметрах источника данных
- [SPARK-32270] [SQL] Использование TextFileFormat в выводе схемы CSV с другой кодировкой
- [SPARK-28481] [SQL] Дополнительные выражения должны расширять NullIntolerant
- [SPARK-32220] [SQL] Указание SHUFFLE_REPLICATE_NL не должно изменять результат объединения продукта, отличного от декартова
- [SPARK-32232] [ML] [PYSPARK] Убедитесь в том, что ML использует те же значения решателя по умолчанию, что и для Scala и Python.
- [SPARK-32238][SQL] используется Utils.getSimpleName, чтобы избежать попадания на неправильное имя класса в ScalaUDF
- [SPARK-32220] [SQL] Указание SHUFFLE_REPLICATE_NL не должно изменять результат объединения продукта, отличного от декартова
- [SPARK-32256] [SQL] Принудительная инициализация Hadoop VersionInfo в HiveExternalCatalog
- [SPARK-32159] [SQL] Исправление интеграции между агрегаторами [Array [_], _, _] и UnresolvedMapObjects
- [Spark-32160] [CORE][PYSPARK] Запрет созданиея SparkContext в исполнителях
- [SPARK-32168] [SQL] Исправление ошибки правильности скрытого секционирования при перезаписи SQL
- [Spark-32024] [WEBUI] Обновление параметра ApplicationStoreInfo.size во время инициализации HistoryServerDiskManager
- [SPARK-32214] [SQL] Функция преобразования типа, созданная в makeFromJava для типа Other, использует неправильную переменную
- [SPARK-30703] [SQL] Обновление недопустимого комментария SqlBase.g4
- [SPARK-32163] [SQL] Вложенное усечение должно работать даже с косметическими вариантами
- [SPARK-32124] [CORE] Использование недопустимого значения Int.MinValue для заполнения индекса карты при регистрации события из старой версии Spark
- [SPARK-32167] [SQL] Исправление GetArrayStructFields для совместного учета допустимости значений NULL в поле
- [SPARK-32130] [SQL] Включение вывода меток времени в JsonBenchmark
- [Spark-32121] [SHUFFLE] Поддержка ОС Windows ОС в ExecutorDiskUtils
- [SPARK-32130] [SQL] Отключение параметра
inferTimestampJSON по умолчанию - [SPARK-31935] [SQL] Конфигурация файла Hadoop должна быть эффективной в параметрах источника данных
- [SPARK-32095] [SQL] Обновление документации с учетом использования обновленной статистики
- [SPARK-32131] [SQL] Исправление сообщений AnalysisException в операциях UNION/EXCEPT/MINUS
- [Spark-32068] [WEBUI] Исправление ошибок в отображении времени запуска, возникших в связи с часовым поясом на вкладке «Этап»
- [Spark-29999] [SS] Исправление теста для проверки фактического каталога журнала метаданных
- [SPARK-32127] [SQL] Проверка правил для MERGE INTO должна использовать MergeAction.condition (кроме MergeAction.children)
- [SPARK-32038] [SQL] Создание псевдонима сразу после нормализации float/double
- [Spark-32126] [SS] Настройка области действия Session.active в IncrementalExecution
- [SPARK-32115] [SQL] Исправление SUBSTRING для обработки перегрузки целочисленных значений
- [SPARK-32098] [PYTHON] Использование iloc для позиционированного создания среза в createDataFrame с помощью Arrow
- [SPARK-32080][SPARK-31998] [SQL] Упрощение метода доступа ArrowColumnVector ListArray
- [SPARK-32028] [WEBUI] Исправление ссылки на идентификатор приложения при нескольких попытках на странице сводки по журналу
- [SPARK-31918] [R] Игнорирование общих методов S4 в пространстве имен SparkR во время очистки при закрытии в целях поддержки R 4.0.0+
- [SPARK-32038] [SQL] NormalizeFloatingNumbers также должен работать с различными статистическими выражениями
- [SPARK-32034] [SQL] Port HIVE-14817: Правильное завершение работы потока SessionManager timeoutChecker после завершения работы
- [SPARK-32021] [SQL] Увеличение точности в секундах и долях
make_interval - [SPARK-31980] [SQL] Сбой последовательности функций (), если даты начала и конца диапазона совпадают
- [SPARK-32020] [SQL] Более точные сообщения об ошибках, если SPARK_HOME или spark.test.home не заданы
- [SPARK-32011] [PYTHON][CORE] Удаление предупреждений о режимах закрепления потоков для использования collectWithJobGroup
Обновления в рамках обслуживания
См. Служебные обновления Databricks Runtime 7.2.
Системная среда
- Операционная система: Ubuntu 18.04.4 LTS
- Java: 1.8.0_252
- Scala: 2.12.10
- Python: 3.7.5
- R: R версии 3.6.3 (29.02.2020)
- Delta Lake: 0.7.0
Установленные библиотеки Python
| Библиотека | Версия | Библиотека | Версия | Библиотека | Версия |
|---|---|---|---|---|---|
| asn1crypto | 1.3.0 | backcall | 0.1.0 | boto3 | 1.12.0 |
| botocore | 1.15.0 | certifi | 2020.6.20 | cffi | 1.14.0 |
| chardet | 3.0.4 | Криптографии | 2.8 | cycler | 0.10.0 |
| Cython | 0.29.15 | decorator | 4.4.1 | docutils | 0.15.2 |
| entrypoints | 0,3 | idna | 2.8 | ipykernel | 5.1.4 |
| ipython | 7.12.0 | ipython-genutils | 0.2.0 | jedi | 0.14.1 |
| jmespath | 0.10.0 | joblib | 0.14.1 | jupyter-client | 5.3.4 |
| jupyter-core | 4.6.1 | kiwisolver | 1.1.0 | koalas | 1.1.0 |
| matplotlib | 3.1.3 | numpy | 1.18.1 | pandas | 1.0.1 |
| parso | 0.5.2 | patsy | 0.5.1 | pexpect | 4.8.0 |
| pickleshare | 0.7.5 | pip | 20.0.2 | prompt-toolkit | 3.0.3 |
| psycopg2 | 2.8.4 | ptyprocess | 0.6.0 | pyarrow | 0.15.1 |
| pycparser | 2,19 | Pygments | 2.5.2 | PyGObject | 3.26.1 |
| pyOpenSSL | 19.1.0 | pyparsing | 2.4.6 | PySocks | 1.7.1 |
| python-apt | 1.6.5+ubuntu0.3 | python-dateutil | 2.8.1 | pytz | 2019.3 |
| pyzmq | 18.1.1 | requests | 2.22.0 | s3transfer | 0.3.3 |
| scikit-learn | 0.22.1 | scipy | 1.4.1 | Сиборн | 0.10.0 |
| setuptools | 45.2.0 | six | 1.14.0 | ssh-import-id | 5.7 |
| statsmodels | 0.11.0 | tornado | 6.0.3 | traitlets | 4.3.3 |
| unattended-upgrades | 0,1 | urllib3 | 1.25.8 | virtualenv | 16.7.10 |
| wcwidth | 0.1.8 | wheel | 0.34.2 |
Установленные библиотеки R
Библиотеки R устанавливаются из моментального снимка Microsoft CRAN 2020-07-14.
| Библиотека | Версия | Библиотека | Версия | Библиотека | Версия |
|---|---|---|---|---|---|
| askpass | 1,1 | assertthat | 0.2.1 | внутренние порты | 1.1.8 |
| base | 3.6.3 | base64enc | 0.1-3 | BH | 1.72.0-3 |
| bit | 1.1-15.2 | bit64 | 0.9-7 | большой двоичный объект | 1.2.1 |
| загрузка | 1.3-25 | Заваривать | 1.0–6 | Метлу | 0.7.0 |
| вызывающий объект | 3.4.3 | крышка | 6.0-86 | cellranger | 1.1.0 |
| chron | 2.3-55 | class | 7.3-17 | cli | 2.0.2 |
| clipr | 0.7.0 | cluster | 2.1.0 | codetools | 0.2-16 |
| colorspace | 1.4-1 | commonmark | 1,7 | компилятор | 3.6.3 |
| config | 0,3 | covr | 3.5.0 | Карандаш | 1.3.4 |
| перекрестныйtalk | 1.1.0.1 | curl | 4.3 | data.table | 1.12.8 |
| наборы данных | 3.6.3 | DBI | 1.1.0 | dbplyr | 1.4.4 |
| desc | 1.2.0 | средства разработки | 2.3.0 | digest | 0.6.25 |
| dplyr | 0.8.5 | DT | 0,14 | многоточие | 0.3.1 |
| evaluate | 0,14 | вентиляторы | 0.4.1 | Farver | 2.0.3 |
| fastmap | 1.0.1 | forcats | 0.5.0 | foreach | 1.5.0 |
| Иностранных | 0.8-76 | forge | 0.2.0 | fs | 1.4.2 |
| Универсальные шаблоны | 0.0.2 | ggplot2 | 3.3.2 | gh | 1.1.0 |
| git2r | 0.27.1 | glmnet | 3.0-2 | globals | 0.12.5 |
| Клей | 1.4.1 | Говер | 0.2.2 | графика | 3.6.3 |
| grDevices | 3.6.3 | grid | 3.6.3 | gridExtra | 2.3 |
| gsubfn | 0,7 | gtable | 0.3.0 | haven | 2.3.1 |
| высокий | 0,8 | Hms | 0.5.3 | htmltools | 0.5.0 |
| htmlwidgets | 1.5.1 | httpuv | 1.5.4 | httr | 1.4.1 |
| hwriter | 1.3.2 | hwriterPlus | 1.0-3 | ini | 0.3.1 |
| ipred | 0.9-9 | isoband | 0.2.2 | Итераторы | 1.0.12 |
| jsonlite | 1.7.0 | KernSmooth | 2.23-17 | трикотажный | 1,29 |
| Маркировки | 0,3 | later | 1.1.0.1 | Решетки | 0.20-41 |
| Lava | 1.6.7 | lazoval | 0.2.2 | жизненный цикл | 0.2.0 |
| lubridate | 1.7.9 | magrittr | 1.5 | Markdown | 1,1 |
| МАССАЧУСЕТС | 7.3-51.6 | «Матрица» | 1.2-18 | memoise | 1.1.0 |
| оплаты | 3.6.3 | mgcv | 1.8-31 | Mime | 0,9 |
| ModelMetrics | 1.2.2.2 | modelr | 0.1.8 | munsell | 0.5.0 |
| nlme | 3.1-147 | nnet | 7.3-14 | numDeriv | 2016.8-1.1 |
| openssl | 1.4.2 | parallel | 3.6.3 | Столб | 1.4.6 |
| pkgbuild | 1.1.0 | pkgconfig | 2.0.3 | pkgload | 1.1.0 |
| plogr | 0.2.0 | plyr | 1.8.6 | Похвалы | 1.0.0 |
| prettyunits | 1.1.1 | Proc | 1.16.2 | processx | 3.4.3 |
| prodlim | 2019.11.13 | Ход выполнения | 1.2.2 | promises | 1.1.1 |
| proto | 1.0.0 | ps | 1.3.3 | purrr | 0.3.4 |
| r2d3 | 0.2.3 | R6 | 2.4.1 | randomForest | 4.6-14 |
| rappdirs | 0.3.1 | rcmdcheck | 1.3.3 | RColorBrewer | 1.1-2 |
| Rcpp | 1.0.5 | readr | 1.3.1 | readxl | 1.3.1 |
| Рецепты | 0.1.13 | Реванш | 1.0.1 | rematch2 | 2.1.2 |
| remotes | 2.1.1 | reprex | 0.3.0 | reshape2 | 1.4.4 |
| rex | 1.2.0 | rjson | 0.2.20 | rlang | 0.4.7 |
| rmarkdown | 2.3 | RODBC | 1.3-16 | roxygen2 | 7.1.1 |
| rpart | 4.1-15 | rprojroot | 1.3-2 | Rserve | 1.8-7 |
| RSQLite | 2.2.0 | rstudioapi | 0,11 | rversions | 2.0.2 |
| rvest | 0.3.5 | Весы | 1.1.1 | селектор | 0.4-2 |
| sessioninfo | 1.1.1 | Формы | 1.4.4 | Блестящие | 1.5.0 |
| sourcetools | 0.1.7 | sparklyr | 1.3.1 | SparkR | 3.0.0 |
| пространственный | 7.3-11 | Сплайны | 3.6.3 | sqldf | 0.4-11 |
| SQUAREM | 2020.3 | stats | 3.6.3 | статистика4 | 3.6.3 |
| stringi | 1.4.6 | stringr | 1.4.0 | Выживания | 3.1-12 |
| sys | 3,3 | tcltk | 3.6.3 | ОбучениеDemos | 2,10 |
| testthat | 2.3.2 | tibble | 3.0.3 | tidyr | 1.1.0 |
| tidyselect | 1.1.0 | tidyverse | 1.3.0 | TimeDate | 3043.102 |
| tinytex | 0,24 | средства | 3.6.3 | usethis | 1.6.1 |
| utf8 | 1.1.4 | служебные программы | 3.6.3 | uuid | 0.1-4 |
| vctrs | 0.3.1 | viridisLite | 0.3.0 | виски | 0,4 |
| withr | 2.2.0 | xfun | 0,15 | xml2 | 1.3.2 |
| xopen | 1.0.0 | xtable | 1.8-4 | Yaml | 2.2.1 |
Установленные библиотеки Java и Scala (версия кластера Scala 2.12)
| ИД группы | Идентификатор артефакта | Версия |
|---|---|---|
| antlr | antlr | 2.7.7 |
| com.amazonaws | amazon-kinesis-client | 1.12.0 |
| com.amazonaws | aws-java-sdk-autoscaling | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudformation | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudfront | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudhsm | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudsearch | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudtrail | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudwatch | 1.11.655 |
| com.amazonaws | aws-java-sdk-cloudwatchmetrics | 1.11.655 |
| com.amazonaws | aws-java-sdk-codedeploy | 1.11.655 |
| com.amazonaws | aws-java-sdk-cognitoidentity | 1.11.655 |
| com.amazonaws | aws-java-sdk-cognitosync | 1.11.655 |
| com.amazonaws | aws-java-sdk-config | 1.11.655 |
| com.amazonaws | aws-java-sdk-core | 1.11.655 |
| com.amazonaws | aws-java-sdk-datapipeline | 1.11.655 |
| com.amazonaws | aws-java-sdk-directconnect | 1.11.655 |
| com.amazonaws | aws-java-sdk-directory | 1.11.655 |
| com.amazonaws | aws-java-sdk-dynamodb | 1.11.655 |
| com.amazonaws | aws-java-sdk-ec2 | 1.11.655 |
| com.amazonaws | aws-java-sdk-ecs | 1.11.655 |
| com.amazonaws | aws-java-sdk-efs | 1.11.655 |
| com.amazonaws | aws-java-sdk-elasticache | 1.11.655 |
| com.amazonaws | aws-java-sdk-elasticbeanstalk | 1.11.655 |
| com.amazonaws | aws-java-sdk-elasticloadbalancing | 1.11.655 |
| com.amazonaws | aws-java-sdk-elastictranscoder | 1.11.655 |
| com.amazonaws | aws-java-sdk-emr | 1.11.655 |
| com.amazonaws | aws-java-sdk-glacier | 1.11.655 |
| com.amazonaws | aws-java-sdk-iam | 1.11.655 |
| com.amazonaws | aws-java-sdk-importexport | 1.11.655 |
| com.amazonaws | aws-java-sdk-kinesis | 1.11.655 |
| com.amazonaws | aws-java-sdk-kms | 1.11.655 |
| com.amazonaws | aws-java-sdk-lambda | 1.11.655 |
| com.amazonaws | aws-java-sdk-logs | 1.11.655 |
| com.amazonaws | aws-java-sdk-machinelearning | 1.11.655 |
| com.amazonaws | aws-java-sdk-opsworks | 1.11.655 |
| com.amazonaws | aws-java-sdk-rds | 1.11.655 |
| com.amazonaws | aws-java-sdk-redshift | 1.11.655 |
| com.amazonaws | aws-java-sdk-route53 | 1.11.655 |
| com.amazonaws | aws-java-sdk-s3 | 1.11.655 |
| com.amazonaws | aws-java-sdk-ses | 1.11.655 |
| com.amazonaws | aws-java-sdk-simpledb | 1.11.655 |
| com.amazonaws | aws-java-sdk-simpleworkflow | 1.11.655 |
| com.amazonaws | aws-java-sdk-sns | 1.11.655 |
| com.amazonaws | aws-java-sdk-sqs | 1.11.655 |
| com.amazonaws | aws-java-sdk-ssm | 1.11.655 |
| com.amazonaws | aws-java-sdk-storagegateway | 1.11.655 |
| com.amazonaws | aws-java-sdk-sts | 1.11.655 |
| com.amazonaws | aws-java-sdk-support | 1.11.655 |
| com.amazonaws | aws-java-sdk-swf-libraries | 1.11.22 |
| com.amazonaws | aws-java-sdk-workspaces | 1.11.655 |
| com.amazonaws | jmespath-java | 1.11.655 |
| com.chuusai | shapeless_2.12 | 2.3.3 |
| com.clearspring.analytics | потоковая передача | 2.9.6 |
| com.databricks | Rserve | 1.8-3 |
| com.databricks | jets3t | 0.7.1–0 |
| com.databricks.scalapb | compilerplugin_2.12 | 0.4.15-10 |
| com.databricks.scalapb | scalapb-runtime_2.12 | 0.4.15-10 |
| com.esotericsoftware | kryo-shaded | 4.0.2 |
| com.esotericsoftware | minlog | 1.3.0 |
| com.fasterxml | classmate | 1.3.4 |
| com.fasterxml.jackson.core | jackson-annotations | 2.10.0 |
| com.fasterxml.jackson.core | jackson-core | 2.10.0 |
| com.fasterxml.jackson.core | jackson-databind | 2.10.0 |
| com.fasterxml.jackson.dataformat | jackson-dataformat-cbor | 2.10.0 |
| com.fasterxml.jackson.datatype | jackson-datatype-joda | 2.10.0 |
| com.fasterxml.jackson.module | jackson-module-paranamer | 2.10.0 |
| com.fasterxml.jackson.module | jackson-module-scala_2.12 | 2.10.0 |
| com.github.ben-manes.caffeine | caffeine | 2.3.4 |
| com.github.fommil | jniloader | 1,1 |
| com.github.fommil.netlib | core | 1.1.2 |
| com.github.fommil.netlib | native_ref-java | 1,1 |
| com.github.fommil.netlib | native_ref-java-natives | 1,1 |
| com.github.fommil.netlib | native_system-java | 1,1 |
| com.github.fommil.netlib | native_system-java-natives | 1,1 |
| com.github.fommil.netlib | netlib-native_ref-linux-x86_64-natives | 1,1 |
| com.github.fommil.netlib | netlib-native_system-linux-x86_64-natives | 1,1 |
| com.github.joshelser | dropwizard-metrics-hadoop-metrics2-reporter | 0.1.2 |
| com.github.luben | zstd-jni | 1.4.4-3 |
| com.github.wendykierp | JTransforms | 3.1 |
| com.google.code.findbugs | jsr305 | 3.0.0 |
| com.google.code.gson | gson | 2.2.4 |
| com.google.flatbuffers | flatbuffers-java | 1.9.0 |
| com.google.guava | guava | 15,0 |
| com.google.protobuf | protobuf-java | 2.6.1 |
| com.h2database | h{_>2<_} | 1.4.195 |
| com.helger | профилировщик | 1.1.1 |
| com.jcraft | jsch | 0.1.50 |
| com.jolbox | bonecp | 0.8.0.RELEASE |
| com.lihaoyi | sourcecode_2.12 | 0.1.9 |
| com.microsoft.azure | azure-data-lake-store-sdk | 2.2.8 |
| com.microsoft.sqlserver | mssql-jdbc | 8.2.1.jre8 |
| com.ning | compress-lzf | 1.0.3 |
| com.sun.mail | javax.mail | 1.5.2 |
| com.tdunning | json | 1.8 |
| com.thoughtworks.paranamer | paranamer | 2.8 |
| com.trueaccord.lenses | lenses_2.12 | 0.4.12 |
| com.twitter | chill-java | 0.9.5 |
| com.twitter | chill_2.12 | 0.9.5 |
| com.twitter | util-app_2.12 | 7.1.0 |
| com.twitter | util-core_2.12 | 7.1.0 |
| com.twitter | util-function_2.12 | 7.1.0 |
| com.twitter | util-jvm_2.12 | 7.1.0 |
| com.twitter | util-lint_2.12 | 7.1.0 |
| com.twitter | util-registry_2.12 | 7.1.0 |
| com.twitter | util-stats_2.12 | 7.1.0 |
| com.typesafe | config | 1.2.1 |
| com.typesafe.scala-logging | scala-logging_2.12 | 3.7.2 |
| com.univocity | univocity-parsers | 2.8.3 |
| com.zaxxer | HikariCP | 3.1.0 |
| commons-beanutils | commons-beanutils | 1.9.4 |
| commons-cli | commons-cli | 1.2 |
| commons-codec | commons-codec | 1,10 |
| commons-collections | commons-collections | 3.2.2 |
| commons-configuration | commons-configuration | 1,6 |
| commons-dbcp | commons-dbcp | 1.4 |
| commons-digester | commons-digester | 1.8 |
| commons-fileupload | commons-fileupload | 1.3.3 |
| commons-httpclient | commons-httpclient | 3.1 |
| commons-io | commons-io | 2.4 |
| commons-lang | commons-lang | 2.6 |
| commons-logging | commons-logging | 1.1.3 |
| commons-net | commons-net | 3.1 |
| commons-pool | commons-pool | 1.5.4 |
| info.ganglia.gmetric4j | gmetric4j | 1.0.10 |
| io.airlift | aircompressor | 0.10 |
| io.dropwizard.metrics | metrics-core | 4.1.1 |
| io.dropwizard.metrics | metrics-graphite | 4.1.1 |
| io.dropwizard.metrics | metrics-healthchecks | 4.1.1 |
| io.dropwizard.metrics | metrics-jetty9 | 4.1.1 |
| io.dropwizard.metrics | metrics-jmx | 4.1.1 |
| io.dropwizard.metrics | metrics-json | 4.1.1 |
| io.dropwizard.metrics | metrics-jvm | 4.1.1 |
| io.dropwizard.metrics | metrics-servlets | 4.1.1 |
| io.netty | netty-all | 4.1.47.Final |
| jakarta.annotation | jakarta.annotation-api | 1.3.5 |
| jakarta.validation | jakarta.validation-api | 2.0.2 |
| jakarta.ws.rs | jakarta.ws.rs-api | 2.1.6 |
| javax.activation | activation | 1.1.1 |
| javax.el | javax.el-api | 2.2.4 |
| javax.jdo | jdo-api | 3.0.1 |
| javax.servlet | javax.servlet-api | 3.1.0 |
| javax.servlet.jsp | jsp-api | 2.1 |
| javax.transaction | jta | 1,1 |
| javax.transaction | transaction-api | 1,1 |
| javax.xml.bind | jaxb-api | 2.2.2 |
| javax.xml.stream | stax-api | 1.0–2 |
| javolution | javolution | 5.5.1 |
| jline | jline | 2.14.6 |
| joda-time | joda-time | 2.10.5 |
| log4j | apache-log4j-extras | 1.2.17 |
| log4j | log4j | 1.2.17 |
| net.razorvine | pyrolite | 4.30 |
| net.sf.jpam | jpam | 1,1 |
| net.sf.opencsv | opencsv | 2.3 |
| net.sf.supercsv | super-csv | 2.2.0 |
| net.snowflake | snowflake-ingest-sdk | 0.9.6 |
| net.snowflake | snowflake-jdbc | 3.12.8 |
| net.snowflake | spark-snowflake_2.12 | 2.8.1-spark_3.0 |
| net.sourceforge.f2j | arpack_combined_all | 0,1 |
| org.acplt.remotetea | remotetea-oncrpc | 1.1.2 |
| org.antlr | ST4 | 4.0.4 |
| org.antlr | antlr-runtime | 3.5.2 |
| org.antlr | antlr4-runtime | 4.7.1 |
| org.antlr | stringtemplate | 3.2.1 |
| org.apache.ant | ant | 1.9.2 |
| org.apache.ant | ant-jsch | 1.9.2 |
| org.apache.ant | ant-launcher | 1.9.2 |
| org.apache.arrow | arrow-format | 0.15.1 |
| org.apache.arrow | arrow-memory | 0.15.1 |
| org.apache.arrow | arrow-vector | 0.15.1 |
| org.apache.avro | avro | 1.8.2 |
| org.apache.avro | avro-ipc | 1.8.2 |
| org.apache.avro | avro-mapred-hadoop2 | 1.8.2 |
| org.apache.commons | commons-compress | 1.8.1 |
| org.apache.commons | commons-crypto | 1.0.0 |
| org.apache.commons | commons-lang3 | 3,9 |
| org.apache.commons | commons-math3 | 3.4.1 |
| org.apache.commons | commons-text | 1,6 |
| org.apache.curator | curator-client | 2.7.1 |
| org.apache.curator | curator-framework | 2.7.1 |
| org.apache.curator | curator-recipes | 2.7.1 |
| org.apache.derby | derby | 10.12.1.1 |
| org.apache.directory.api | api-asn1-api | 1.0.0–M20 |
| org.apache.directory.api | api-util | 1.0.0–M20 |
| org.apache.directory.server | apacheds-i18n | 2.0.0–M15 |
| org.apache.directory.server | apacheds-kerberos-codec | 2.0.0–M15 |
| org.apache.hadoop | hadoop-annotations | 2.7.4 |
| org.apache.hadoop | hadoop-auth | 2.7.4 |
| org.apache.hadoop | hadoop-client | 2.7.4 |
| org.apache.hadoop | hadoop-common | 2.7.4 |
| org.apache.hadoop | hadoop-hdfs | 2.7.4 |
| org.apache.hadoop | hadoop-mapreduce-client-app | 2.7.4 |
| org.apache.hadoop | hadoop-mapreduce-client-common | 2.7.4 |
| org.apache.hadoop | hadoop-mapreduce-client-core | 2.7.4 |
| org.apache.hadoop | hadoop-mapreduce-client-jobclient | 2.7.4 |
| org.apache.hadoop | hadoop-mapreduce-client-shuffle | 2.7.4 |
| org.apache.hadoop | hadoop-yarn-api | 2.7.4 |
| org.apache.hadoop | hadoop-yarn-client | 2.7.4 |
| org.apache.hadoop | hadoop-yarn-common | 2.7.4 |
| org.apache.hadoop | hadoop-yarn-server-common | 2.7.4 |
| org.apache.hive | hive-beeline | 2.3.7 |
| org.apache.hive | hive-cli | 2.3.7 |
| org.apache.hive | hive-common | 2.3.7 |
| org.apache.hive | hive-exec-core | 2.3.7 |
| org.apache.hive | hive-jdbc | 2.3.7 |
| org.apache.hive | hive-llap-client | 2.3.7 |
| org.apache.hive | hive-llap-common | 2.3.7 |
| org.apache.hive | hive-metastore | 2.3.7 |
| org.apache.hive | hive-serde | 2.3.7 |
| org.apache.hive | hive-shims | 2.3.7 |
| org.apache.hive | hive-storage-api | 2.7.1 |
| org.apache.hive | hive-vector-code-gen | 2.3.7 |
| org.apache.hive.shims | hive-shims-0.23 | 2.3.7 |
| org.apache.hive.shims | hive-shims-common | 2.3.7 |
| org.apache.hive.shims | hive-shims-scheduler | 2.3.7 |
| org.apache.htrace | htrace-core | 3.1.0-incubating |
| org.apache.httpcomponents | httpclient | 4.5.6 |
| org.apache.httpcomponents | httpcore | 4.4.12 |
| org.apache.ivy | ivy | 2.4.0 |
| org.apache.orc | orc-core | 1.5.10 |
| org.apache.orc | orc-mapreduce | 1.5.10 |
| org.apache.orc | orc-shims | 1.5.10 |
| org.apache.parquet | parquet-column | 1.10.1.2-databricks4 |
| org.apache.parquet | parquet-common | 1.10.1.2-databricks4 |
| org.apache.parquet | parquet-encoding | 1.10.1.2-databricks4 |
| org.apache.parquet | parquet-format | 2.4.0 |
| org.apache.parquet | parquet-hadoop | 1.10.1.2-databricks4 |
| org.apache.parquet | parquet-jackson | 1.10.1.2-databricks4 |
| org.apache.thrift | libfb303 | 0.9.3 |
| org.apache.thrift | libthrift | 0.12.0 |
| org.apache.velocity | скорость | 1.5 |
| org.apache.xbean | xbean-asm7-shaded | 4.15 |
| org.apache.yetus | audience-annotations | 0.5.0 |
| org.apache.zookeeper | zookeeper | 3.4.14 |
| org.codehaus.jackson | jackson-core-asl | 1.9.13 |
| org.codehaus.jackson | jackson-jaxrs | 1.9.13 |
| org.codehaus.jackson | jackson-mapper-asl | 1.9.13 |
| org.codehaus.jackson | jackson-xc | 1.9.13 |
| org.codehaus.janino | commons-compiler | 3.0.16 |
| org.codehaus.janino | janino | 3.0.16 |
| org.datanucleus | datanucleus-api-jdo | 4.2.4 |
| org.datanucleus | datanucleus-core | 4.1.17 |
| org.datanucleus | datanucleus-rdbms | 4.1.19 |
| org.datanucleus | javax.jdo | 3.2.0-m3 |
| org.eclipse.jetty | jetty-client | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-continuation | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-http | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-io | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-jndi | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-plus | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-proxy | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-security | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-server | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-servlet | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-servlets | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-util | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-webapp | 9.4.18.v20190429 |
| org.eclipse.jetty | jetty-xml | 9.4.18.v20190429 |
| org.fusesource.leveldbjni | leveldbjni-all | 1.8 |
| org.glassfish.hk2 | hk2-api | 2.6.1 |
| org.glassfish.hk2 | hk2-locator | 2.6.1 |
| org.glassfish.hk2 | hk2-utils | 2.6.1 |
| org.glassfish.hk2 | osgi-resource-locator | 1.0.3 |
| org.glassfish.hk2.external | aopalliance-repackaged | 2.6.1 |
| org.glassfish.hk2.external | jakarta.inject | 2.6.1 |
| org.glassfish.jersey.containers | jersey-container-servlet | 2,30 |
| org.glassfish.jersey.containers | jersey-container-servlet-core | 2,30 |
| org.glassfish.jersey.core | jersey-client | 2,30 |
| org.glassfish.jersey.core | jersey-common | 2,30 |
| org.glassfish.jersey.core | jersey-server | 2,30 |
| org.glassfish.jersey.inject | jersey-hk2 | 2,30 |
| org.glassfish.jersey.media | jersey-media-jaxb | 2,30 |
| org.hibernate.validator | hibernate-validator | 6.1.0.Final |
| org.javassist | javassist | 3.25.0-GA |
| org.jboss.logging | jboss-logging | 3.3.2.Final |
| org.jdbi | jdbi | 2.63.1 |
| org.joda | joda-convert | 1,7 |
| org.jodd | jodd-core | 3.5.2 |
| org.json4s | json4s-ast_2.12 | 3.6.6 |
| org.json4s | json4s-core_2.12 | 3.6.6 |
| org.json4s | json4s-jackson_2.12 | 3.6.6 |
| org.json4s | json4s-scalap_2.12 | 3.6.6 |
| org.lz4 | lz4-java | 1.7.1 |
| org.mariadb.jdbc | mariadb-java-client | 2.1.2 |
| org.objenesis | objenesis | 2.5.1 |
| org.postgresql | postgresql | 42.1.4 |
| org.roaringbitmap | RoaringBitmap | 0.7.45 |
| org.roaringbitmap | shims | 0.7.45 |
| org.rocksdb | rocksdbjni | 6.2.2 |
| org.rosuda.REngine | REngine | 2.1.0 |
| org.scala-lang | scala-compiler_2.12 | 2.12.10 |
| org.scala-lang | scala-library_2.12 | 2.12.10 |
| org.scala-lang | scala-reflect_2.12 | 2.12.10 |
| org.scala-lang.modules | scala-collection-compat_2.12 | 2.1.1 |
| org.scala-lang.modules | scala-parser-combinators_2.12 | 1.1.2 |
| org.scala-lang.modules | scala-xml_2.12 | 1.2.0 |
| org.scala-sbt | test-interface | 1.0 |
| org.scalacheck | scalacheck_2.12 | 1.14.2 |
| org.scalactic | scalactic_2.12 | 3.0.8 |
| org.scalanlp | breeze-macros_2.12 | 1.0 |
| org.scalanlp | breeze_2.12 | 1.0 |
| org.scalatest | scalatest_2.12 | 3.0.8 |
| org.slf4j | jcl-over-slf4j | 1.7.30 |
| org.slf4j | jul-to-slf4j | 1.7.30 |
| org.slf4j | slf4j-api | 1.7.30 |
| org.slf4j | slf4j-log4j12 | 1.7.30 |
| org.spark-project.spark | Неиспользуемые | 1.0.0 |
| org.springframework | spring-core | 4.1.4.RELEASE |
| org.springframework | spring-test | 4.1.4.RELEASE |
| org.threeten | threeten-extra | 1.5.0 |
| org.tukaani | xz | 1.5 |
| org.typelevel | algebra_2.12 | 2.0.0-M2 |
| org.typelevel | cats-kernel_2.12 | 2.0.0-M4 |
| org.typelevel | machinist_2.12 | 0.6.8 |
| org.typelevel | macro-compat_2.12 | 1.1.1 |
| org.typelevel | spire-macros_2.12 | 0.17.0-M1 |
| org.typelevel | spire-platform_2.12 | 0.17.0-M1 |
| org.typelevel | spire-util_2.12 | 0.17.0-M1 |
| org.typelevel | spire_2.12 | 0.17.0-M1 |
| org.xerial | sqlite-jdbc | 3.8.11.2 |
| org.xerial.snappy | snappy-java | 1.1.7.5 |
| org.yaml | snakeyaml | 1.24 |
| oro | oro | 2.0.8 |
| pl.edu.icm | JLargeArrays | 1.5 |
| software.amazon.ion | ion-java | 1.0.2 |
| stax | stax-api | 1.0.1 |
| xmlenc | xmlenc | 0,52 |