Udostępnij za pośrednictwem

Pobieranie danych z usługi Amazon S3

  • Artykuł

Pozyskiwanie danych to proces używany do ładowania danych z co najmniej jednego źródła do tabeli w usłudze Azure Data Explorer. Po pozyskaniu dane staną się dostępne dla zapytań. Z tego artykułu dowiesz się, jak pobrać dane z usługi Amazon S3 do nowej lub istniejącej tabeli.

Aby uzyskać więcej informacji na temat usługi Amazon S3, zobacz Co to jest Amazon S3?.

Aby uzyskać ogólne informacje na temat pozyskiwania danych, zobacz Omówienie pozyskiwania danych w usłudze Azure Data Explorer.

Wymagania wstępne

  • Konto Microsoft lub tożsamość użytkownika Microsoft Entra. Subskrypcja platformy Azure nie jest wymagana.
  • Zaloguj się do internetowego interfejsu użytkownika usługi Azure Data Explorer.
  • Baza danych i klaster usługi Azure Data Explorer. Utwórz klaster i bazę danych.

Pobierz dane

  1. W menu po lewej stronie wybierz pozycję Zapytanie.

  2. Kliknij prawym przyciskiem myszy bazę danych, w której chcesz pozyskać dane, a następnie wybierz pozycję Pobierz dane.

    Zrzut ekranu przedstawiający kartę zapytania z kliknięciem prawym przyciskiem myszy bazy danych i otwartym oknem dialogowym pobierania.

Źródło

W oknie Pobieranie danych zostanie wybrana karta Źródło.

Wybierz źródło danych z listy dostępnych. W tym przykładzie dane są pozyskiwane z usługi Amazon S3.

Zrzut ekranu przedstawiający okno pobierania danych z wybraną kartą źródłową.

Konfiguruj

  1. Wybierz docelową bazę danych i tabelę. Jeśli chcesz pozyskać dane do nowej tabeli, wybierz pozycję +Nowa tabela i wprowadź nazwę tabeli.

    Uwaga

    Nazwy tabel mogą zawierać maksymalnie 1024 znaki, w tym spacje, alfanumeryczne, łączniki i podkreślenia. Znaki specjalne nie są obsługiwane.

  2. W polu Identyfikator URI wklej parametry połączenia pojedynczego zasobnika lub pojedynczego obiektu w następującym formacie.

    Zasobnik: https://BucketName RegionName.s3..amazonaws.com

    Obiekt: ObjectName;AwsCredentials=AwsAccessID,AwsSecretKey

    Opcjonalnie można zastosować filtry zasobników, aby filtrować dane zgodnie z określonym rozszerzeniem pliku.

    Zrzut ekranu przedstawiający kartę konfigurowania z wprowadzoną nową tabelą i wklejonym parametry połączenia amazon S3.

    Uwaga

    Maksymalny rozmiar pliku obsługiwany w pozyskiwaniu wynosi 6 GB. Zaleceniem jest pozyskiwanie plików z zakresu od 100 MB do 1 GB.

  3. Wybierz Dalej.

Kontrola

Zostanie otwarta karta Inspekcja z podglądem danych.

Aby ukończyć proces pozyskiwania, wybierz pozycję Zakończ.

Zrzut ekranu przedstawiający kartę inspekcji.

Opcjonalnie:

  • Wybierz pozycję Przeglądarka poleceń, aby wyświetlić i skopiować polecenia automatyczne wygenerowane na podstawie danych wejściowych.
  • Użyj listy rozwijanej Plik definicji schematu, aby zmienić plik, z którego jest wywnioskowany schemat.
  • Zmień automatycznie wnioskowany format danych, wybierając żądany format z listy rozwijanej. Aby uzyskać informacje na temat pozyskiwania, zobacz Formaty danych obsługiwane przez usługę Azure Data Explorer.
  • Edytuj kolumny.
  • Zapoznaj się z opcjami zaawansowanymi na podstawie typu danych.

Edytuj kolumny

Uwaga

  • W przypadku formatów tabelarycznych (CSV, TSV, PSV) nie można dwukrotnie mapować kolumny. Aby zamapować na istniejącą kolumnę, najpierw usuń nową kolumnę.
  • Nie można zmienić istniejącego typu kolumny. Jeśli spróbujesz mapować kolumnę na inny format, może się okazać, że kolumny będą puste.

Zmiany, które można wprowadzić w tabeli, zależą od następujących parametrów:

  • Typ tabeli jest nowy lub istniejący
  • Typ mapowania to nowy lub istniejący
Typ tabeli Typ mapowania Dostępne korekty
Nowa tabela Nowe mapowanie Zmienianie nazwy kolumny, zmienianie typu danych, zmienianie źródła danych, przekształcanie mapowania, dodawanie kolumny, usuwanie kolumny
Istniejąca tabela Nowe mapowanie Dodaj kolumnę (na której można następnie zmienić typ danych, zmienić nazwę i zaktualizować)
Istniejąca tabela Istniejące mapowanie Brak

Zrzut ekranu przedstawiający otwarte kolumny do edycji.

Przekształcenia mapowania

Niektóre mapowania formatów danych (Parquet, JSON i Avro) obsługują proste przekształcenia czasu pozyskiwania. Aby zastosować przekształcenia mapowania, utwórz lub zaktualizuj kolumnę w oknie Edytowanie kolumn .

Przekształcenia mapowania można wykonać na kolumnie typu ciąg lub data/godzina, a źródło ma typ danych int lub long. Obsługiwane przekształcenia mapowania to:

  • DateTimeFromUnixSeconds
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds

Opcje zaawansowane oparte na typie danych

Tabelaryczny (CSV, TSV, PSV):

  • Jeśli pozyskujesz formaty tabelaryczne w istniejącej tabeli, możesz wybrać pozycję Zaawansowane>Zachowaj bieżący schemat tabeli. Dane tabelaryczne nie muszą zawierać nazw kolumn używanych do mapowania danych źródłowych na istniejące kolumny. Po zaznaczeniu tej opcji mapowanie odbywa się według kolejności, a schemat tabeli pozostaje taki sam. Jeśli ta opcja nie jest zaznaczona, nowe kolumny są tworzone dla danych przychodzących, niezależnie od struktury danych.

  • Aby użyć pierwszego wiersza jako nazw kolumn, wybierz pozycję Zaawansowane>pierwszy wiersz to nagłówek kolumny.

    Zrzut ekranu przedstawiający zaawansowane opcje csv.

JSON:

  • Aby określić podział kolumn danych JSON, wybierz pozycję Zaawansowane>poziomy zagnieżdżone z zakresu od 1 do 100.

  • W przypadku wybrania opcji Zaawansowane>ignoruj błędy formatu danych dane są pozyskiwane w formacie JSON. Jeśli to pole wyboru nie zostanie zaznaczone, dane są pozyskiwane w formacie wielossonowym.

    Zrzut ekranu przedstawiający zaawansowane opcje JSON.

Podsumowanie

W oknie Przygotowywanie danych wszystkie trzy kroki są oznaczone zielonymi znacznikami wyboru po pomyślnym zakończeniu pozyskiwania danych. Możesz wyświetlić polecenia, które zostały użyte dla każdego kroku, lub wybrać kartę do wykonywania zapytań, wizualizowania lub porzucania pozyskanych danych.

Zrzut ekranu przedstawiający stronę podsumowania z pomyślnym zakończeniem pozyskiwania.

Powiązana zawartość