从 Amazon S3 获取数据

本文介绍如何将数据从 Amazon S3 获取到新的表或现有表。 Amazon S3 是一种用于存储和检索数据的对象存储服务。

有关 Amazon S3 的详细信息,请参阅 什么是 Amazon S3?

先决条件

  1. 在 KQL 数据库的下方功能区中,选择“获取数据”

    在“获取数据”窗口中,选中“”选项卡。

  2. 从可用列表中选择数据源。 在此示例中,你将从 Amazon S3导入数据。

    “获取数据”窗口的屏幕截图,其中选择了“源”选项卡。

配置

  1. 选择目标表。 如果要将数据引入新表,请选择 +新建表 并输入表名称。

    注意

    表名最多可包含 1024 个字符,包括空格、字母数字、连字符和下划线。 不支持特殊字符。

  2. URI 字段中,粘贴单个存储桶的连接字符串或采用以下格式的单个对象。

    存储桶:https://BucketName.s3.RegionName.amazonaws.com;AwsCredentials=AwsAccessID,AwsSecretKey

    (可选)可以应用存储桶筛选器,以便根据特定的文件扩展名筛选数据。

    “配置”选项卡的屏幕截图,其中输入了新表并粘贴了 Amazon S3 连接字符串。

  3. 选择“下一页”

检查

此时会打开“检查”选项卡,其中包含数据的预览

要完成引入过程,请选择“完成”

“检查”选项卡的屏幕截图。

可选:

  • 选择 命令查看器 以查看和复制从输入生成的自动命令。
  • 使用“架构定义文件”下拉列表更改从中推断架构的文件
  • 通过从下拉列表中选择所需格式来更改自动推断的数据格式。 有关详细信息,请参阅由 Real-Time Intelligence 支持的数据格式。
  • 编辑列
  • 浏览基于数据类型的高级选项

编辑列

注意

  • 对于表格格式(CSV、TSV、PSV),不能映射列两次。 若要映射到现有列,请先删除新列。
  • 无法更改现有列类型。 如果尝试映射到其他格式的列,结果可能出现空列。

可以在表中所做的更改取决于以下参数:

  • 表类型为“新”或“现有”
  • 映射类型为“新”或“现有”
表类型 映射类型 可用调整
新建表 新映射 重命名列、更改数据类型、更改数据源、映射转换、添加列、删除列
现有表 新映射 添加列(然后可以更改数据类型、重命名和更新)
现有表 现有映射 没有

列打开以供编辑的屏幕截图。

映射转换

某些数据格式映射(Parquet、JSON 和 Avro)支持简单的引入时间转换。 若要应用映射转换,请在 编辑列 窗口中创建或更新列。

可以对字符串或日期时间类型的列执行映射转换,源的数据类型为 int 或 long。 支持的映射转换为:

  • DateTimeFromUnixSeconds
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds

基于数据类型的高级选项

表格(CSV、TSV、PSV)

  • 如果要在现有表中引入表格格式,可以选择“高级”>“保留表架构”。 表格数据不一定包括用于将源数据映射到现有列的列名。 选中此选项后,按顺序完成映射,表架构保持不变。 如果未选中此选项,则会为传入数据创建新列,而不考虑数据结构。

  • 为了将第一行用作列标题,请选择 高级>第一行作为列标题

    高级 CSV 选项的屏幕截图。

JSON

  • 若要确定 JSON 数据的列划分,请选择 高级>嵌套级别,从 1 到 100。

  • 如果选择 高级>跳过有错误的 JSON 行,则数据将以 JSON 格式导入。 如果未选中此复选框,则会以多JSON格式引入数据。

    高级 JSON 选项的屏幕截图。

总结

数据准备 窗口中,当数据引入成功完成时,所有三个步骤都会显示绿色的对勾。 可以选择要查询的卡,下拉引入的数据,也可以查看引入摘要的仪表板。

成功完成引入的摘要页的屏幕截图。

  • 若要管理数据库,请参阅 管理数据
  • 若要创建、存储和导出查询,请在 KQL 查询集中参阅 查询数据