Partilhar via

DLT versão 2022.37

  • Artigo

14 a 22 de setembro de 2022

Esses recursos e melhorias foram lançados com a versão 2022.37 do DLT.

Versões do Databricks Runtime usadas por esta versão

Canal:

  • ATUAL (padrão): Databricks Runtime 10.3.7
  • PRÉ-VISUALIZAÇÃO: Databricks Runtime 11.0.5

Novos recursos e melhorias nesta versão

  • A solicitação de API de atualização inicial agora retorna o campo request_id no corpo da resposta. O request_id é um identificador estável para a solicitação original que inicia a atualização. Se uma atualização for repetida ou reiniciada, a nova atualização herdará o request_id.
{
  "update_id": "the ID of the update that was started",
  "request_id": "The ID of the request that started this update"
}

A nova solicitação de API requests (GET /pipelines/{pipeline_id}/requests/{request_id}) retorna o status da atualização de pipeline associada a request_id. A resposta inclui informações sobre a atualização mais recente.

{
  "status": "ACTIVE",
  "latest_update": {}
}
  • O seu código Python agora pode chamar operações spark.sql fora das funções dlt.table() ou dlt.view(), desde que a operação não esteja a ler de uma vista materializada ou tabela em fluxo.
  • As entradas do log de eventos agora contêm a propriedade maturity para indicar a estabilidade do esquema de eventos. Os valores possíveis são stable, evolvinge deprecated. Para obter mais informações sobre o log de eventos DLT, consulte O que é o log de eventos DLT?.
  • A mensagem de erro é melhorada quando são feitas alterações incompatíveis nas tabelas de origem utilizadas por uma tabela de streaming.
  • Agora você pode selecionar uma política de cluster na interface do usuário DLT ao criar ou editar um pipeline. Anteriormente, a definição da política de cluster para um pipeline exigia a edição das configurações JSON do pipeline.
  • Inicialização de pipeline mais rápida. Esta versão inclui aprimoramentos que aceleram a etapa SETTING_UP_TABLES quando um pipeline é iniciado.

Correções de bugs nesta versão

  • Esta versão corrige um bug que impede que o dimensionamento automático avançado aumente quando não há instâncias de cluster ociosas disponíveis.