Partilhar via

Tempo de execução do Databricks 4.2 (EoS)

  • Artigo

Nota

O suporte para esta versão do Databricks Runtime terminou. Para obter a data de fim do suporte, consulte Histórico de fim do suporte. Para todas as versões suportadas do Databricks Runtime, consulte Versões e compatibilidade das notas de versão do Databricks Runtime.

A Databricks lançou esta versão em julho de 2018.

Importante

Esta versão foi preterida em 5 de março de 2019. Para obter mais informações sobre a política e o cronograma de substituição do Databricks Runtime, consulte Ciclos de vida de suporte do Databricks.

As notas de versão a seguir fornecem informações sobre o Databricks Runtime 4.2, desenvolvido pelo Apache Spark.

Delta Lake

O Databricks Runtime 4.2 adiciona grandes melhorias de qualidade e funcionalidade ao Delta Lake. A Databricks recomenda vivamente que todos os clientes Delta Lake atualizem para o novo tempo de execução. Esta versão permanece na Pré-visualização Privada, mas representa uma versão candidata em antecipação à próxima versão de disponibilidade geral (GA).

Novas funcionalidades

  • Agora, os fluxos podem ser gravados diretamente em uma tabela Delta registrada no metastore do Hive usando df.writeStream.table(...)o .

Melhorias

  • Todos os comandos e consultas Delta Lake agora suportam referência a uma tabela usando seu caminho como identificador:

    delta.`<path-to-table>`

    Anteriormente OPTIMIZE e VACUUM exigido uso não-padrão de literais de cadeia de caracteres (ou seja, '<path-to-table>').

  • DESCRIBE HISTORY agora inclui o ID de confirmação e é ordenado do mais novo para o mais antigo por padrão.

Correções de erros

  • A filtragem baseada em predicados de partição agora opera corretamente, mesmo quando o caso dos predicados difere do da tabela.
  • Coluna ausente AnalysisException corrigida ao executar verificações de igualdade em colunas booleanas em tabelas Delta (ou seja, booleanValue = true).
  • CREATE TABLE não modifica mais o log de transações ao criar um ponteiro para uma tabela existente. Isso evita conflitos desnecessários com fluxos simultâneos e permite a criação de ponteiro de metastore para tabelas onde o usuário só tem acesso de leitura aos dados.
  • Chamar display() um fluxo com grandes quantidades de dados não causa mais OOM no driver.
  • AnalysisException agora é lançado quando um caminho Delta Lake subjacente é excluído, em vez de retornar resultados vazios.
  • As configurações do Delta Lake que exigem uma versão de protocolo específica (por exemplo, appendOnly) só podem ser aplicadas a tabelas em uma versão apropriada.
  • Ao atualizar o estado de uma tabela Delta, linhagens longas agora são automaticamente truncadas para evitar um StackOverFlowErrorarquivo .

Transmissão em Fluxo Estruturada

Novas funcionalidades

  • Delta Lake e Kafka agora suportam totalmente o Trigger.Once. Limites de taxa anteriores (por exemplo maxOffsetsPerTrigger ou maxFilesPerTrigger) especificados como opções de origem ou padrões poderiam resultar em apenas uma execução parcial dos dados disponíveis. Essas opções agora são ignoradas quando Trigger.Once são usadas, permitindo que todos os dados atualmente disponíveis sejam processados.

  • Adicionado novo streaming foreachBatch() no Scala, onde você pode definir uma função para processar a saída de cada microlote usando operações DataFrame. Isso permite o seguinte:

    • Usando fontes de dados em lote existentes para gravar saídas de microlote em sistemas que ainda não têm uma fonte de dados de streaming (por exemplo, use o gravador de lote Cassandra em cada saída de microlote).
    • Gravação de saída de microlote em vários locais.
    • Aplicação de operações DataFrame e tabela em saídas de microlote que ainda não são suportadas em DataFrames de streaming (por exemplo, saída de microlote de upsert em uma tabela Delta).

  • Adicionadas from_avro/to_avro funções para ler e gravar dados Avro em um DataFrame em vez de apenas arquivos, semelhante ao from_json/to_json. Consulte Ler e gravar dados Avro em qualquer lugar para obter mais detalhes.

  • Adicionado suporte para streaming foreach() em Python (já disponível em Scala). Consulte a documentação foreach e foreachBatch para obter mais detalhes.

Melhorias

  • Geração mais rápida de resultados de saída e/ou limpeza de estado com operações stateful (mapGroupsWithState, stream-stream join, streaming aggregation, streaming dropDuplicates) quando não há dados no fluxo de entrada.

Correções de erros

  • Corrigido o bug de correção SPARK-24588 na junção de fluxo em que a junção relatava menos resultados quando há uma partição explícita antes dela (por exemplo, df1.repartition("a", "b").join(df, "a")).

Outras Alterações e Melhorias

  • Adicionado suporte para o comando SQL Deny para clusters habilitados para controle de acesso à tabela. Os usuários agora podem negar permissões específicas da mesma forma que podiam ser concedidas antes. Uma permissão negada substituirá uma permissão concedida. Administradores e proprietários de um determinado objeto ainda têm sempre permissão para executar ações.
  • Nova fonte de dados do Azure Data Lake Storage Gen2 que usa o driver ABFS. Consulte Conectar-se ao Azure Data Lake Storage Gen2 e Blob Storage
  • Atualizado algumas bibliotecas Python instaladas:
    • pip: de 10.0.0b2 a 10.0.1
    • setuptools: de 39.0.1 a 39.2.0
    • tornado: 5.0.1 a 5.0.2
    • roda: 0.31.0 a 0.31.1
  • Atualizadas várias bibliotecas R instaladas. Consulte Bibliotecas R instaladas.
  • Suporte melhorado ao Parquet
  • Apache ORC atualizado de 1.4.1 para 1.4.3

Apache Spark

O Databricks Runtime 4.2 inclui o Apache Spark 2.3.1. Esta versão inclui todas as correções e melhorias incluídas no Databricks Runtime 4.1 (EoS), bem como as seguintes correções de bugs adicionais e melhorias feitas no Spark:

  • [FAÍSCA-24588]A junção de streaming [SS] deve exigir HashClusteredPartitioning de crianças
  • [FAÍSCA-23931][SQL] Faça arrays_zip em function.scala @scala.annotation.varargs.
  • [FAÍSCA-24633][SQL] Corrija o codegen quando a divisão for necessária para arrays_zip
  • [FAÍSCA-24578][CORE] Tamanho da sub-região de tampa do buffer nio retornado
  • [FAÍSCA-24613][SQL] O cache com UDF não pôde ser correspondido com caches dependentes subsequentes
  • [FAÍSCA-24583][SQL] Tipo de esquema errado em InsertIntoDataSourceCommand
  • [FAÍSCA-24565][SS] Adicionar API para no Structured Streaming para expor linhas de saída de cada microlote como um DataFrame
  • [FAÍSCA-24396][SS][PYSPARK] Adicionar Structured Streaming ForeachWriter para Python
  • [FAÍSCA-24216][SQL] Spark TypedAggregateExpression usa getSimpleName que não é seguro no Scala
  • [FAÍSCA-24452][SQL][CORE] Evite possíveis estouros em int add ou multiple
  • [FAÍSCA-24187][R][SQL] Adicionar array_join função ao SparkR
  • [FAÍSCA-24525][SS] Fornecer uma opção para limitar o número de linhas em um MemorySink
  • [FAÍSCA-24331][SPARKR][SQL] Adicionando arrays_overlap, array_repeat map_entries ao SparkR
  • [FAÍSCA-23931][SQL] Adiciona arrays_zip função ao Spark SQL
  • [FAÍSCA-24186][R][SQL] alterar reverso e concat para funções de coleta em R
  • [FAÍSCA-24198][SPARKR][SQL] Adicionando função de fatia ao SparkR
  • [FAÍSCA-23920][SQL] adicionar array_remove para remover todos os elementos que equivalem elemento da matriz
  • [FAÍSCA-24197][SPARKR][SQL] Adicionando array_sort função ao SparkR
  • [FAÍSCA-24340][CORE] Limpe arquivos do gerenciador de blocos de disco não aleatórios após as saídas do executor em um cluster autônomo
  • [FAÍSCA-23935][SQL] Adicionando map_entries função
  • [FAÍSCA-24500][SQL] Certifique-se de que os fluxos são materializados durante as transformações da árvore.
  • [FAÍSCA-24495][SQL] EnsureRequirement retorna o plano errado ao reordenar chaves iguais
  • [FAÍSCA-24506][UI] Adicionar filtros de interface do usuário a guias adicionadas após a vinculação
  • [FAÍSCA-24468][SQL] Manipular escala negativa ao ajustar a precisão para operações decimais
  • [FAÍSCA-24313][SQL] Corrigir a avaliação interpretada das operações de coleta para tipos complexos
  • [FAÍSCA-23922][SQL] Adicionar função arrays_overlap
  • [FAÍSCA-24369][SQL] Tratamento correto para várias agregações distintas com o mesmo conjunto de argumentos
  • [FAÍSCA-24455][CORE] corrigir erro de digitação no comentário TaskSchedulerImpl
  • [FAÍSCA-24397][PYSPARK] Adicionado TaskContext.getLocalProperty(key) em Python
  • [FAÍSCA-24117][SQL] Unificou o getSizePerRow
  • [FAÍSCA-24156][SS] Corrigir erro ao recuperar da falha em um lote sem dados
  • [FAÍSCA-24414][UI] Calcule o número correto de tarefas para um estágio.
  • [FAÍSCA-23754][PYTHON] Re-raising StopIteration no código do cliente
  • [FAÍSCA-23991][DSTREAMS] Corrigir a perda de dados quando a gravação WAL falhar em allocateBlocksToBatch
  • [FAÍSCA-24373][SQL] Adicionar AnalysisBarrier ao filho de RelationalGroupedDataset e KeyValueGroupedDataset
  • [FAÍSCA-24392][PYTHON] Rotular pandas_udf como Experimental
  • [FAÍSCA-24334] Corrigir condição de corrida no ArrowPythonRunner causa desligamento impuro do alocador de memória Arrow
  • [FAÍSCA-19112][CORE] Adicione shortCompressionCodecNames ausente à configuração.
  • [FAÍSCA-24244][FAÍSCA-24368][SQL] Passando apenas as colunas necessárias para o analisador CSV
  • [FAÍSCA-24366][SQL] Melhoria de mensagens de erro para conversão de tipo
  • [FAÍSCA-24371][SQL] Adicionado isInCollection na API DataFrame para Scala an...
  • [FAÍSCA-23925][SQL] Adicionar array_repeat função de coleção
  • [MENOR] Adicionar configuração SSL de porta em toString e scaladoc
  • [FAÍSCA-24378][SQL] Corrigir date_trunc função exemplos incorretos
  • [FAÍSCA-24364][SS] Impedir que InMemoryFileIndex falhe se o caminho do arquivo não existir
  • [FAÍSCA-24257][SQL] LongToUnsafeRowMap calcular o novo tamanho pode estar errado
  • [FAÍSCA-24348]Correção de erro [SQL] element_at"
  • [FAÍSCA-23930][SQL] Adicionar função de fatia
  • [FAÍSCA-23416][SS] Adicione um método stop específico para ContinuousExecution.
  • [FAÍSCA-23852][SQL] Upgrade para o Parquet 1.8.3
  • [FAÍSCA-24350][SQL] Corrige ClassCastException na função "array_position"
  • [FAÍSCA-24321][SQL] Extrair código comum de Dividir/Restante para uma característica base
  • [FAÍSCA-24309][CORE] AsyncEventQueue deve parar na interrupção.
  • [FAÍSCA-23850][SQL] Adicione configuração separada para a redação de opções SQL.
  • [FAÍSCA-22371][CORE] Retornar Nenhum em vez de lançar uma exceção quando um acumulador é coletado lixo.
  • [FAÍSCA-24002][SQL] Tarefa não serializável causada por org.apache.parquet.io.api.Binary$ByteBufferBackedBinary.getBytes
  • [FAÍSCA-23921][SQL] Adicionar função array_sort
  • [FAÍSCA-23923][SQL] Adicionar função de cardinalidade
  • [FAÍSCA-24159][SS] Habilite microlotes sem dados para streaming mapGroupswithState
  • [FAÍSCA-24158][SS] Habilitar lotes sem dados para associações de streaming
  • [FAÍSCA-24157][SS] Lotes sem dados habilitados em MicroBatchExecution para agregação e desduplicação de streaming
  • [FAÍSCA-23799][SQL] FilterEstimation.evaluateInSet produz estatísticas erradas para STRING
  • [FAÍSCA-17916][SQL] Corrija a cadeia de caracteres vazia que está sendo analisada como nula quando nullValue é definido.
  • [FAÍSCA-23916][SQL] Adicionar função array_join
  • [FAÍSCA-23408][SS] Sincronizar ações sucessivas de AddData no Streaming*JoinSuite
  • [FAÍSCA-23780][R] Falha ao usar a biblioteca googleVis com o novo SparkR
  • [FAÍSCA-23821][SQL] Função de recolha: achatar
  • [FAÍSCA-23627][SQL] Fornecer isEmpty no conjunto de dados
  • [FAÍSCA-24027][SQL] Suporte MapType com StringType para chaves como o tipo raiz por from_json
  • [FAÍSCA-24035][SQL] Sintaxe SQL para Pivot - corrigir aviso antlr
  • [FAÍSCA-23736][SQL] Estendendo a função concat para suportar colunas de matriz
  • [FAÍSCA-24246][SQL] Melhore AnalysisException definindo a causa quando ela estiver disponível
  • [FAÍSCA-24263][R] SparkR java check breaks com openjdk
  • [FAÍSCA-24262][PYTHON] Corrigir erro de digitação na mensagem de erro de correspondência de tipo UDF
  • [FAÍSCA-24067][STREAMING][KAFKA] Permitir compensações não consecutivas
  • [FAÍSCA-10878][CORE] Corrigir condição de corrida quando vários clientes resolvem artefatos ao mesmo tempo
  • [FAÍSCA-19181][CORE] Corrigindo métricas escamosas "SparkListenerSuite.local"
  • [FAÍSCA-24068]Propagando as opções de DataFrameReader para fonte de dados de texto na inferência de esquema
  • [FAÍSCA-24214][SS] Corrigir toJSON para StreamingRelationV2/StreamingExecutionRelation/ContinuousExecutionRelation
  • [FAÍSCA-23919][FAÍSCA-23924][FAÍSCA-24054][SQL] Adicionar função array_position/element_at
  • [FAÍSCA-23926][SQL] Estendendo a função reversa para dar suporte a argumentos ArrayType
  • [FAÍSCA-23809][SQL] Ative SparkSession deve ser definido por getOrCreate
  • [FAÍSCA-23094][FAÍSCA-23723][FAÍSCA-23724][SQL] Suporte a codificação personalizada para arquivos json
  • [FAÍSCA-24035][SQL] Sintaxe SQL para Pivot
  • [FAÍSCA-24069][R] Adicionar funções array_min / array_max
  • [FAÍSCA-23976][CORE] Detetar estouro de comprimento em UTF8String.concat()/ByteArray.concat()
  • [FAÍSCA-24188][CORE] Restaure o ponto de extremidade da API "/version".
  • [FAÍSCA-24128][SQL] Mencione a opção de configuração no erro implícito CROSS JOIN
  • [FAÍSCA-23291][SQL][R] O substr de R não deve reduzir a posição inicial em 1 ao chamar a API do Scala
  • [FAÍSCA-23697][CORE] LegacyAccumulatorWrapper deve definir isZero corretamente
  • [FAÍSCA-24168][SQL] WindowExec não deve acessar SQLConf no lado do executor
  • [FAÍSCA-24143]filtrar blocos vazios ao converter mapstatus em par (blockId, size)
  • [FAÍSCA-23917][FAÍSCA-23918][SQL] Adicionar função array_max/array_min
  • [FAÍSCA-23905][SQL] Adicionar UDF durante a semana
  • [FAÍSCA-16406][SQL] Melhorar o desempenho do LogicalPlan.resolve
  • [FAÍSCA-24013][SQL] Remova a compressa desnecessária em ApproximatePercentile
  • [FAÍSCA-23433][CORE] Conclusão tardia de tarefas zumbi atualizar todos os conjuntos de tarefas
  • [FAÍSCA-24169][SQL] JsonToStructs não deve acessar SQLConf no lado do executor
  • [FAÍSCA-24133][SQL] Backport [SPARK-24133]Verifique se há estouros de inteiros ao redimensionar WritableColumnVectors
  • [FAÍSCA-24166][SQL] InMemoryTableScanExec não deve acessar SQLConf no lado do executor
  • [FAÍSCA-24133][SQL] Verifique se há estouros de inteiros ao redimensionar WritableColumnVectors
  • [FAÍSCA-24085][SQL] Query retorna UnsupportedOperationException quando a subconsulta escalar está presente na expressão de particionamento
  • [FAÍSCA-24062][THRIFT SERVER] Corrigir a criptografia SASL não pode ativar o problema no servidor thrift
  • [FAÍSCA-23004][SS] Verifique se StateStore.commit é chamado apenas uma vez em uma tarefa de agregação de streaming
  • [FAÍSCA-23188][SQL] Torne o tamanho do lote do leitor columar vetorizado configurável
  • [FAÍSCA-23375][FAÍSCA-23973][SQL] Elimine a classificação desnecessária no Optimizer
  • [FAÍSCA-23877][SQL] Usar predicados de filtro para remover partições em consultas somente de metadados
  • [FAÍSCA-24033][SQL] Correção incompatível de quadro de janela especificadowindowframe (RowFrame, -1, -1)
  • [FAÍSCA-23340][SQL] Atualize o Apache ORC para 1.4.3
  • Corrija um problema de verificação nula ausente que provavelmente é acionado pela geração simplificada de código de experssão e exposto pelo SPARK-23986 porque tornou o código-fonte gerado um pouco mais longo e acionou o caminho de código problemático (divisão de código por Expression.reduceCodeSize()).
  • [FAÍSCA-23989]O intercâmbio [SQL] deve copiar dados antes do shuffle não serializado
  • [FAÍSCA-24021][CORE] corrigir bug na atualização do BlacklistTrackerBlacklistForFetchFailure
  • [FAÍSCA-24014][PYSPARK] Adicionar método onStreamingStarted a StreamingListener
  • [FAÍSCA-23963][SQL] Lidar corretamente com um grande número de colunas na consulta na tabela Hive baseada em texto
  • [FAÍSCA-23948] Acionar o ouvinte de trabalho do mapstage em submitMissingTasks
  • [FAÍSCA-23986][SQL] freshName pode gerar nomes não exclusivos
  • [FAÍSCA-23835][SQL] Adicionar verificação não-nula à desserialização de argumentos de Tuplas

Atualizações de manutenção

Consulte Atualizações de manutenção do Databricks Runtime 4.2.

Ambiente do sistema

  • Sistema Operacional: Ubuntu 16.04.4 LTS
  • Java: 1.8.0_162
  • Escala: 2.11.8
  • Python: 2.7.12 para clusters Python 2 e 3.5.2 para clusters Python 3.
  • R: R versão 3.4.4 (2018-03-15)
  • Clusters GPU: As seguintes bibliotecas de GPU NVIDIA estão instaladas:
    • Piloto da Tesla 375.66
    • CUDA 9,0
    • cuDNN 7,0

Bibliotecas Python instaladas

Biblioteca Versão Biblioteca Versão Biblioteca Versão
ansi2html 1.1.1 argparse 1.2.1 backports-abc 0.5
boto 2.42.0 boto3 1.4.1 botocore 1.4.70
brewer2mpl 1.4.1 certifi 2016.2.28 cffi 1.7.0
chardet 2.3.0 colorama 0.3.7 configobj 5.0.6
criptografia 1.5 cycler 0.10.0 Quisto 0.24.1
decorador 4.0.10 docutils 0.14 enum34 1.1.6
et-xmlfile 1.0.1 freetype-py 1.0.2 funcsigs 1.0.2
fusepy 2.0.4 futuros 3.2.0 ggplot 0.6.8
html5lib 0.999 idna 2.1 ipaddress 1.0.16
ipython 2.2.0 ipython-genutils 0.1.0 jdcal 1.2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe 0.23 matplotlib 1.5.3
mpld3 0.2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
numba 0.28.1 numpy 1.11.1 openpyxl 2.3.2
pandas 0.19.2 pathlib2 2.1.0 patsy 0.4.1
pexpect 4.0.1 pickleshare 0.7.4 Travesseiro 3.3.1
pip 10.0.1 ply 3.9 prompt-toolkit 1.0.7
psycopg2 2.6.2 ptyprocess 0.5.1 py4j 0.10.3
pyarrow 0.8.0 pyasn1 0.1.9 pycparser 2.14
Pygments 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing 2.2.0 pypng 0.0.18 Python 2.7.12
python-dateutil 2.5.3 python-geohash 0.8.5 pytz 2016.6.1
pedidos 2.11.1 s3transferir 0.1.9 scikit-learn 0.18.1
scipy 0.18.1 vasculhar 0.32 seaborn 0.7.1
setuptools 39.2.0 simplejson 3.8.2 simples3 1.0
singledispatch 3.4.0.3 seis 1.10.0 statsmodels 0.6.1
tornado 5.0.2 traços 4.3.0 urllib3 1.19.1
virtualenv 15.0.1 largura de wc 0.1.7 roda 0.31.1
wsgiref 0.1.2

Bibliotecas R instaladas

Biblioteca Versão Biblioteca Versão Biblioteca Versão
abind 1.4-5 asserçãoat 0.2.0 backports 1.1.2
base 3.4.4 BH 1.66.0-1 bindr 0.1.1
bindrcpp 0.2.2 bit 1.1-12 bit64 0.9-7
bitops 1.0-6 blob 1.1.1 arranque 1.3-20
brew 1.0-6 vassoura 0.4.4 carro 3.0-0
carData 3.0-1 acento circunflexo 6.0-79 Cellranger 1.1.0
crono 2.3-52 classe 7.3-14 cli 1.0.0
cluster 2.0.7-1 codetools 0.2-15 espaço em cores 1.3-2
marca comum 1.4 compilador 3.4.4 lápis de cor 1.3.4
curl 3.2 CVST 0.2-1 data.table 1.10.4-3
conjuntos de dados 3.4.4 DBI 0.8 ddalpha 1.3.1.1
DEoptimR 1.0-8 desc 1.1.1 devtools 1.13.5
dichromat 2.0-0 resumo 0.6.15 dimRed 0.1.0
doMC 1.3.5 dplyr 0.7.4 DRR 0.0.3
FORCATS 0.3.0 foreach 1.4.4 externa 0.8-70
gbm 2.1.3 ggplot2 2.2.1 git2r 0.21.0
glmnet 2.0-16 colar 1.2.0 gower 0.1.2
gráficos 3.4.4 grDevices 3.4.4 grelha 3.4.4
gsubfn 0.7 gtable 0.2.0 h2o 3.16.0.2
Refúgio 1.1.1 HMS 0.4.2 httr 1.3.1
hwriter 1.3.2 hwriterPlus 1.0-3 ipred 0.9-6
iteradores 1.0.9 jsonlite 1.5 kernlab 0.9-25
KernSmooth 2.23-15 etiquetagem 0.3 lattice 0.20-35
lava 1.6.1 lazyeval 0.2.1 littler 0.3.3
lme4 1.1-17 lubridate 1.7.3 magrittr 1.5
mapproj 1.2.6 mapas 3.3.0 Ferramentas de mapa 0.9-2
MASSA 7.3-50 Matriz 1.2-14 MatrizModels 0.4-1
memoise 1.1.0 métodos 3.4.4 mgcv 1.8-24
mime 0.5 minqa 1.2.4 mnormt 1.5-5
ModelMetrics 1.1.0 munsell 0.4.3 mvtnorm 1.0-7
nlme 3.1-137 nloptr 1.0.4 nnet 7.3-12
numDeriv 2016.8-1 openssl 1.0.1 OpenXLSX 4.0.17
paralelo 3.4.4 pbkrtest 0.4-7 pilar 1.2.1
pkgconfig 2.0.1 pkgKitten 0.1.4 plogr 0.2.0
plyr 1.8.4 elogiar 1.0.0 unidades bonitas 1.0.2
pROC 1.11.0 prodlim 1.6.1 proto 1.0.0
psique 1.8.3.3 purrr 0.2.4 quantreg 5,35
R.methodsS3 1.7.1 R.oo 1.21.0 R.utils 2.6.0
R6 2.2.2 randomForest 4.6-14 RColorBrewer 1.1-2
Rcpp 0.12.16 RcppEigen 0.3.3.4.0 RcppRoll 0.2.2
RCurl 1.95-4.10 Leitor 1.1.1 ReadXL 1.0.0
receitas 0.1.2 revanche 1.0.1 remodelar2 1.4.3
Rio 0.5.10 rlang 0.2.0 robustbase 0.92-8
RODBC 1.3-15 roxygen2 6.0.1 rpart 4.1-13
rprojroot 1.3-2 Rserve 1.7-3 RSQLite 2.1.0
rstudioapi 0.7 escalas 0.5.0 sfsmisc 1.1-2
sp 1.2-7 SparkR 2.3.1 Disperso 1.77
espacial 7.3-11 splines 3.4.4 sqldf 0.4-11
QUADRADO 2017.10-1 estatmod 1.4.30 estatísticas 3.4.4
stats4 3.4.4 stringi 1.1.7 stringr 1.3.0
sobrevivência 2.42-3 tcltk 3.4.4 TeachingDemos 2.10
testeatat 2.0.0 tibble 1.4.2 tidyr 0.8.0
tidyselect 0.2.4 timeDate 3043.102 ferramentas 3.4.4
UTF8 1.1.3 utilitários 3.4.4 viridisLite 0.3.0
whisker 0.3-2 withr 2.1.2 xml2 1.2.0

Bibliotecas Java e Scala instaladas (versão do cluster Scala 2.11)

ID do Grupo ID do Artefacto Versão
antlr antlr 2.7.7
com.amazonaws amazon-kinesis-client 1.7.3
com.amazonaws aws-java-sdk-autoscaling 1.11.313
com.amazonaws aws-java-sdk-cloudformation 1.11.313
com.amazonaws aws-java-sdk-cloudfront 1.11.313
com.amazonaws aws-java-sdk-cloudhsm 1.11.313
com.amazonaws aws-java-sdk-cloudsearch 1.11.313
com.amazonaws aws-java-sdk-cloudtrail 1.11.313
com.amazonaws aws-java-sdk-cloudwatch 1.11.313
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.313
com.amazonaws aws-java-sdk-codedeploy 1.11.313
com.amazonaws aws-java-sdk-cognitoidentity 1.11.313
com.amazonaws aws-java-sdk-cognitosync 1.11.313
com.amazonaws aws-java-sdk-config 1.11.313
com.amazonaws aws-java-sdk-core 1.11.313
com.amazonaws aws-java-sdk-datapipeline 1.11.313
com.amazonaws aws-java-sdk-directconnect 1.11.313
com.amazonaws aws-java-sdk-directory 1.11.313
com.amazonaws aws-java-sdk-dynamodb 1.11.313
com.amazonaws aws-java-sdk-ec2 1.11.313
com.amazonaws aws-java-sdk-ecs 1.11.313
com.amazonaws aws-java-sdk-efs 1.11.313
com.amazonaws aws-java-sdk-elasticache 1.11.313
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.313
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.313
com.amazonaws aws-java-sdk-elastictranscoder 1.11.313
com.amazonaws aws-java-sdk-emr 1.11.313
com.amazonaws aws-java-sdk-glacier 1.11.313
com.amazonaws aws-java-sdk-iam 1.11.313
com.amazonaws aws-java-sdk-importexport 1.11.313
com.amazonaws aws-java-sdk-kinesis 1.11.313
com.amazonaws aws-java-sdk-kms 1.11.313
com.amazonaws aws-java-sdk-lambda 1.11.313
com.amazonaws aws-java-sdk-logs 1.11.313
com.amazonaws aws-java-sdk-machinelearning 1.11.313
com.amazonaws aws-java-sdk-opsworks 1.11.313
com.amazonaws aws-java-sdk-rds 1.11.313
com.amazonaws aws-java-sdk-redshift 1.11.313
com.amazonaws aws-java-sdk-route53 1.11.313
com.amazonaws aws-java-sdk-s3 1.11.313
com.amazonaws aws-java-sdk-ses 1.11.313
com.amazonaws aws-java-sdk-simpledb 1.11.313
com.amazonaws aws-java-sdk-simpleworkflow 1.11.313
com.amazonaws aws-java-sdk-sns 1.11.313
com.amazonaws aws-java-sdk-sqs 1.11.313
com.amazonaws aws-java-sdk-ssm 1.11.313
com.amazonaws aws-java-sdk-storagegateway 1.11.313
com.amazonaws aws-java-sdk-sts 1.11.313
com.amazonaws aws-java-sdk-support 1.11.313
com.amazonaws aws-java-sdk-swf-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.313
com.amazonaws jmespath-java 1.11.313
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics transmissão em fluxo 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.4.1-db1-faísca2.3
com.databricks dbml-local_2.11-tests 0.4.1-db1-faísca2.3
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware sombreado de kryo 3.0.3
com.esotericsoftware minlog 1.3.0
com.fasterxml colega de turma 1.0.0
com.fasterxml.jackson.core jackson-anotações 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib núcleo 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-nativos 1.1
com.github.fommil.netlib native_system-java 1.1
com.github.fommil.netlib native_system-java-nativos 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben ZSTD-JNI 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava guava 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jamesmurty.utils java-xmlbuilder 1.1
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.RELEASE
com.mchange c3p0 0.9.5.1
com.mchange mchange-commons-java 0.2.10
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.sqlserver mssql-jdbc 6.2.2.JRE8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.8.4
com.twitter chill_2.11 0.8.4
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe configuração 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.5.9
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
registo de comuns registo de comuns 1.1.3
commons-net commons-net 2.2
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.ponte aérea compressor de ar 0.8
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics metrics-healthchecks 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics metrics-servlets 3.1.5
io.netty netty 3.9.9.Final
io.netty netty-all 4.1.17.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx recoletor 0.7
javax.activation ativação 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.11
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-properties 1.1.5
net.iharder base64 2.3.8
net.java.dev.jets3t jets3t 0.9.4
net.razorvine pirolite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.floco de neve Flocos de Neve-JDBC 3.6.3
net.floco de neve faísca-snowflake_2.11 2.3.2
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate 3.2.1
org.apache.ant formiga 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow formato de seta 0.8.0
org.apache.arrow seta-memória 0.8.0
org.apache.arrow vetor de seta 0.8.0
org.apache.avro avro 1.7.7
org.apache.avro avro-ipc 1.7.7
org.apache.avro avro-ipc-tests 1.7.7
org.apache.avro avro-mapred-hadoop2 1.7.7
org.apache.calcite calcite-avatica 1.2.0 incubação
org.apache.calcite calcite-core 1.2.0 incubação
org.apache.calcite calcite-linq4j 1.2.0 incubação
org.apache.commons commons-compress 1.4.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3.5
org.apache.commons commons-math3 3.4.1
org.apache.curator curador-cliente 2.7.1
org.apache.curator curador-framework 2.7.1
org.apache.curator curador-receitas 2.7.1
org.apache.derby derby 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0 incubação
org.apache.httpcomponents httpclient 4.5.4
org.apache.httpcomponents httpcore 4.4.8
org.apache.ivy hera 2.4.0
org.apache.orc orc-core-nohive 1.4.3
org.apache.orc orc-mapreduce-nohive 1.4.3
org.apache.parquet parquet-column 1.8.3-DATABRICKS2
org.apache.parquet parquet-common 1.8.3-DATABRICKS2
org.apache.parquet parquet-encoding 1.8.3-DATABRICKS2
org.apache.parquet parquet-format 2.3.1
org.apache.parquet parquet-hadoop 1.8.3-DATABRICKS2
org.apache.parquet parquet-jackson 1.8.3-DATABRICKS2
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm5-shaded 4.4
org.apache.zookeeper zookeeper 3.4.6
org.bouncycastle bcprov-jdk15on 1.58
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler 3.0.8
org.codehaus.janino janino 3.0.8
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.20.v20170531
org.eclipse.jetty jetty-continuation 9.3.20.v20170531
org.eclipse.jetty jetty-http 9.3.20.v20170531
org.eclipse.jetty jetty-io 9.3.20.v20170531
org.eclipse.jetty jetty-jndi 9.3.20.v20170531
org.eclipse.jetty jetty-plus 9.3.20.v20170531
org.eclipse.jetty jetty-proxy 9.3.20.v20170531
org.eclipse.jetty jetty-security 9.3.20.v20170531
org.eclipse.jetty jetty-server 9.3.20.v20170531
org.eclipse.jetty jetty-servlet 9.3.20.v20170531
org.eclipse.jetty jetty-servlets 9.3.20.v20170531
org.eclipse.jetty jetty-util 9.3.20.v20170531
org.eclipse.jetty jetty-webapp 9.3.20.v20170531
org.eclipse.jetty jetty-xml 9.3.20.v20170531
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 localizador hk2 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-guava 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core servidor de jersey 2.22.2
org.glassfish.jersey.media jersey-media-jaxb 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.2.11
org.json4s json4s-core_2.11 3.2.11
org.json4s json4s-jackson_2.11 3.2.11
org.lz4 LZ4-Java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis objenesis 2.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.8
org.scala-lang scala-library_2.11 2.11.8
org.scala-lang scala-reflect_2.11 2.11.8
org.scala-lang scalap_2.11 2.11.8
org.scala-lang.modules scala-parser-combinators_2.11 1.0.2
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt interface de teste 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 2.2.6
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark não utilizado 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework teste de primavera 4.1.4.RELEASE
org.tukaani xz 1.0
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.2.6
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
stax stax-api 1.0.1
xmlenc xmlenc 0.52