Partilhar via

Delta Live Tables versão 2022.37

  • Artigo

14 a 22 de setembro de 2022

Esses recursos e melhorias foram lançados com a versão 2022.37 do Delta Live Tables.

Versões do Databricks Runtime usadas por esta versão

Canal:

  • ATUAL (padrão): Databricks Runtime 10.3.7
  • VISUALIZAÇÃO: Databricks Runtime 11.0.5

Novos recursos e melhorias nesta versão

  • A solicitação de API de atualização inicial agora retorna o campo request_id no corpo da resposta. O request_id é um identificador estável para a solicitação original que inicia a atualização. Se uma atualização for repetida ou reiniciada, a nova atualização herdará o request_id.
{
  "update_id": "the ID of the update that was started",
  "request_id": "The ID of the request that started this update"
}

A nova solicitação de API requests (GET /pipelines/{pipeline_id}/requests/{request_id}) retorna o status da atualização de pipeline associada a request_id. A resposta inclui informações sobre a atualização mais recente.

{
  "status": "ACTIVE",
  "latest_update": {}
}
  • Seu código Python agora pode chamar spark.sql operações fora de dlt.table() ou dlt.view() funções, desde que a operação não esteja lendo de uma visualização materializada ou tabela de streaming.
  • As entradas do log de eventos agora contêm a propriedade maturity para indicar a estabilidade do esquema de eventos. Os valores possíveis são stable, evolvinge deprecated. Para obter mais informações sobre o log de eventos do Delta Live Tables, consulte O que é o log de eventos do Delta Live Tables?.
  • A mensagem de erro é melhorada quando são feitas alterações incompatíveis nas tabelas de origem utilizadas por uma tabela de streaming.
  • Agora você pode selecionar uma política de cluster na interface do usuário do Delta Live Tables ao criar ou editar um pipeline. Anteriormente, a definição da política de cluster para um pipeline exigia a edição das configurações JSON do pipeline.
  • Inicialização de pipeline mais rápida. Esta versão inclui aprimoramentos que aceleram a SETTING_UP_TABLES etapa quando um pipeline é iniciado.

Correções de bugs nesta versão

  • Esta versão corrige um bug que impede que o dimensionamento automático avançado aumente quando não há instâncias de cluster ociosas disponíveis.