Partilhar via


Obter dados do armazenamento do Azure

Neste artigo, você aprenderá como obter dados do armazenamento do Azure (contêiner ADLS Gen2, contêiner de blob ou blobs individuais) em uma tabela nova ou existente.

Pré-requisitos

Fonte

  1. Na faixa de opções inferior do banco de dados KQL, selecione Obter dados.

    Na janela obter dados, a guia de origem está selecionada.

  2. Selecione a fonte de dados na lista disponível. Neste exemplo, estás a ingerir dados do armazenamento do Azure .

    Captura de ecrã da janela obter dados com o separador origem selecionado.

Configurar

  1. Selecione uma tabela de destino. Se pretender ingerir dados numa nova tabela, selecione + Nova tabela e introduza um nome de tabela.

    Observação

    Os nomes das tabelas podem ter até 1024 caracteres, incluindo espaços, alfanuméricos, hífenes e sublinhados. Não há suporte para caracteres especiais.

  2. Para adicionar a sua fonte de dados, cole a string de conexão de armazenamento no campo URI , e em seguida, selecione +. A tabela a seguir lista os métodos de autenticação com suporte e as permissões necessárias para ingerir dados do armazenamento do Azure.

    Método de autenticação Bolha individual Contentor de Blob Azure Data Lake Storage Gen2
    Token de Acesso Compartilhado (SAS) Ler e escrever Ler e Listar Ler e Listar
    Chave de acesso da conta de armazenamento

    Observação

    • Você pode adicionar até 10 blobs individuais ou ingerir até 5000 blobs de um único contêiner. Você não pode ingerir os dois ao mesmo tempo.
    • Cada blob pode ter no máximo 1 GB descompactado.
    1. Se você colou uma cadeia de conexão para um contêiner de blob ou um Azure Data Lake Storage Gen2, poderá adicionar os seguintes filtros opcionais:

      Captura de tela da guia configurar com a nova tabela inserida e um arquivo de dados de exemplo selecionado.

      Configuração Descrição do campo
      Filtros de arquivo (opcional)
      Caminho da pasta Filtra dados para ingerir arquivos com um caminho de pasta específico.
      Extensão do arquivo Filtra dados para ingerir arquivos apenas com uma extensão de arquivo específica.
  3. Selecione Próximo

Inspecionar

A guia Inspecionar é aberta com uma pré-visualização dos dados.

Para concluir o processo de ingestão, selecione Concluir.

Captura de tela da guia inspecionar.

Opcionalmente:

Editar colunas

Observação

  • Para formatos tabulares (CSV, TSV, PSV), não é possível mapear uma coluna duas vezes. Para mapear para uma coluna existente, primeiro exclua a nova coluna.
  • Não é possível alterar um tipo de coluna existente. Se você tentar mapear para uma coluna com um formato diferente, você pode acabar com colunas vazias.

As alterações que você pode fazer em uma tabela dependem dos seguintes parâmetros:

  • Tipo de Tabela é novo ou existente
  • O tipo de de mapeamento é novo ou existente
Tipo de tabela Tipo de mapeamento Ajustes disponíveis
Nova tabela Novo mapeamento Renomear coluna, alterar tipo de dados, alterar fonte de dados, transformação de mapeamento , adicionar coluna, eliminar coluna
Tabela existente Novo mapeamento Adicionar coluna (na qual você pode alterar o tipo de dados, renomear e atualizar)
Tabela existente Mapeamento existente nenhum

Captura de tela de colunas abertas para edição.

Mapeando transformações

Alguns mapeamentos de formato de dados (Parquet, JSON e Avro) suportam transformações simples em tempo de ingestão. Para aplicar transformações de mapeamento, crie ou atualize uma coluna na janela Editar colunas.

As transformações de mapeamento podem ser executadas em uma coluna do tipo string ou datetime, com a fonte tendo o tipo de dados int ou long. As transformações de mapeamento suportadas são:

  • DateTimeFromUnixSeconds
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds (DataHoraAPartirDeNanosegundosUnix)

Opções avançadas com base no tipo de dados

Tabela (CSV, TSV, PSV):

  • Se estiveres a ingerir formatos tabulares numa tabela existente, podes selecionar Manter esquema de tabela>. Os dados tabulares não incluem necessariamente os nomes das colunas usadas para mapear os dados de origem para as colunas existentes. Quando essa opção é marcada, o mapeamento é feito por ordem e o esquema da tabela permanece o mesmo. Se essa opção estiver desmarcada, novas colunas serão criadas para os dados de entrada, independentemente da estrutura dos dados.

  • Para usar a primeira linha como nomes de coluna, selecione Avançado>A primeira linha é o cabeçalho da coluna.

    Captura de ecrã das opções avançadas de CSV.

JSON:

  • Para determinar a divisão de colunas dos dados JSON, selecione Advanced>Nested levelsde 1 a 100.

  • Se você selecionar Avançado>Ignorar linhas JSON com erros, os dados serão ingeridos no formato JSON. Se você deixar essa caixa de seleção desmarcada, os dados serão ingeridos no formato multijson.

    Captura de tela das opções avançadas de JSON.

Resumo

Na janela de preparação de dados , todas as três etapas são assinaladas com marcas de seleção verdes quando a ingestão de dados é concluída com êxito. Você pode selecionar um cartão para consultar, eliminar os dados ingeridos ou ver um dashboard com o resumo da sua ingestão.

Captura de tela da página de resumo com a ingestão bem-sucedida concluída.