您现在访问的是微软AZURE全球版技术文档网站,若需要访问由世纪互联运营的MICROSOFT AZURE中国区技术文档网站,请访问 https://docs.azure.cn.

适用于 Azure Synapse Analytics 中的专用 SQL 池的数据加载策略

传统的 SMP 专用 SQL 池通过提取、转换和加载 (ETL) 过程来加载数据。 Azure Synapse Analytics 中的 Synapse SQL 池使用分布式查询处理体系结构,利用了计算和存储资源的可伸缩性和灵活性。

可以通过提取、加载和转换 (ELT) 过程来利用内置分布式查询处理功能,无需在加载数据之前投入资源来转换数据。

虽然专用 SQL 池支持包括常用 SQL Server 选项(例如 bcpSqlBulkCopy API)在内的许多加载方法,但最快且最具可伸缩性的数据加载方法是使用 PolyBase 外部表和 COPY 语句

使用 PolyBase 和 COPY 语句,可以通过 T-SQL 语言访问存储在 Azure Blob 存储或 Azure Data Lake Store 中的外部数据。 为了在加载时获得最大的灵活性,建议使用 COPY 语句。

什么是 ELT?

提取、加载和转换 (ELT) 是指将数据从源系统提取并加载到专用 SQL 池然后再进行转换的过程。

实现 ELT 的基本步骤如下:

  1. 将源数据提取到文本文件中。
  2. 将数据移入 Azure Blob 存储或 Azure Data Lake Store。
  3. 准备要加载的数据。
  4. 使用 PolyBase 或 COPY 命令将数据载入临时表。
  5. 转换数据。
  6. 将数据插入生产表。

有关加载教程,请参阅从 Azure Blob 存储加载数据

1.将源数据提取到文本文件中

从源系统中取出数据的过程取决于存储位置。 目标是将数据移入支持的带分隔符的文本文件或 CSV 文件。

支持的文件格式

使用 PolyBase 和 COPY 语句,可以从 UTF-8 和 UTF-16 编码的带分隔符文本文件或 CSV 文件加载数据。 除了带分隔符文本文件或 CSV 文件以外,它还可以从 ORC 和 Parquet 等 Hadoop 文件格式加载数据。 PolyBase 和 COPY 语句还可以从 Gzip 和 Snappy 压缩文件加载数据。

不支持扩展的 ASCII、固定宽度格式以及 WinZip 或 XML 等嵌套格式。 如果要从 SQL Server 中导出,可以使用 bcp 命令行工具,以将数据导出为带分隔符的文本文件。

2.将数据移入 Azure Blob 存储或 Azure Data Lake Store

若要将数据移入 Azure 存储,可将它移到 Azure Blob 存储Azure Data Lake Store Gen2。 应将数据存储在任一位置的文本文件中。 PolyBase 和 COPY 语句可从任一位置加载数据。

可使用以下工具和服务将数据移到 Azure 存储:

  • Azure ExpressRoute 服务可以增强网络吞吐量、性能和可预测性。 ExpressRoute 是通过专用连接将数据路由到 Azure 的服务。 ExpressRoute 连接不通过公共 Internet 路由数据。 与基于公共 Internet 的典型连接相比,这些连接提供更高的可靠性、更快的速度、更低的延迟和更高的安全性。
  • AZCopy 实用工具可以通过公共 Internet 将数据移到 Azure 存储。 如果数据小于 10 TB,则很适合使用此工具。 若要使用 AZCopy 定期执行加载操作,请测试网络速度是否在可接受的范围内。
  • Azure 数据工厂 (ADF) 提供一个可以安装在本地服务器上的网关。 然后,你可以创建管道,以便将数据从本地服务器移到 Azure 存储。 若要将数据工厂与专用 SQL 池配合使用,请参阅为专用 SQL 池加载数据

3.准备要加载的数据

在加载存储帐户中的数据之前,可能需要对其进行准备和清理。 可以在数据仍保留在源中、将数据导出到文本文件时或者在数据进入 Azure 存储之后执行数据准备。 最好是在加载过程的早期阶段处理数据。

定义表

使用 COPY 语句时,必须先在专用 SQL 池中定义要加载到的表。

如果使用 PolyBase,则需在加载之前在专用 SQL 池中定义外部表。 PolyBase 使用外部表来定义和访问 Azure 存储中的数据。 外部表类似于数据库视图。 外部表包含表架构,并指向在专用 SQL 池外部存储的数据。

定义外部表涉及到指定数据源、文本文件的格式和表定义。 相关的 T-SQL 语法参考文章如下:

加载 Parquet 文件时,使用以下 SQL 数据类型映射:

Parquet 类型 Parquet 逻辑类型(批注) SQL 数据类型
BOOLEAN bit
BINARY/BYTE_ARRAY varbinary
DOUBLE FLOAT
FLOAT real
INT32 int
INT64 bigint
INT96 datetime2
FIXED_LEN_BYTE_ARRAY binary
BINARY UTF8 nvarchar
BINARY STRING nvarchar
BINARY ENUM nvarchar
BINARY UUID uniqueidentifier
BINARY DECIMAL decimal
BINARY JSON nvarchar(MAX)
BINARY BSON varbinary(max)
FIXED_LEN_BYTE_ARRAY DECIMAL decimal
BYTE_ARRAY INTERVAL varchar(max),
INT32 INT(8, true) smallint
INT32 INT(16, true) smallint
INT32 INT(32, true) int
INT32 INT(8, false) tinyint
INT32 INT(16, false) int
INT32 INT(32, false) bigint
INT32 DATE date
INT32 DECIMAL decimal
INT32 TIME (MILLIS) time
INT64 INT(64, true) bigint
INT64 INT(64, false ) decimal(20,0)
INT64 DECIMAL decimal
INT64 TIME (MILLIS) time
INT64 TIMESTAMP (MILLIS) datetime2
复杂类型 列表 varchar(max)
复杂类型 MAP varchar(max)

重要

  • SQL 专用池目前不支持 MICROS 和 NANOS 精度的 Parquet 数据类型。
  • 如果 Parquet 与 SQL 之间的类型不匹配,或者如果你有不受支持的 Parquet 数据类型,则可能会遇到以下错误:“HdfsBridge::recordReaderFillBuffer - 填充记录读取器缓冲区时遇到意外错误:ClassCastException: …”
  • 不支持将 0-127 范围外的值加载到 Parquet 和 ORC 文件格式的 tinyint 列中。

有关创建外部对象的示例,请参阅创建外部表

设置文本文件的格式

使用 PolyBase 时,定义的外部对象需要使文本文件中的行与外部表和文件格式定义相符。 文本文件的每一行中的数据必须与表定义相符。 设置文本文件的格式:

  • 如果数据来自非关系源,则需要将其转换为行与列。 不管数据来自关系源还是非关系源,都必须转换数据,使之与数据预期要载入到的表的列定义相符。
  • 设置本文件中数据的格式,使之与目标表中的列和数据类型相符。 外部文本文件与专用 SQL 池表中的数据类型不相符会导致系统在加载期间拒绝行。
  • 使用终止符分隔文本文件中的字段。 请务必使用源数据中不包含的字符或字符序列。 使用通过 CREATE EXTERNAL FILE FORMAT 指定的终止符。

4.使用 PolyBase 或 COPY 语句加载数据

最佳做法是将数据载入临时表。 使用临时表可以处理错误且不干扰生产表。 将数据插入生产表之前,还可以通过临时表使用专用 SQL 池并行处理体系结构进行数据转换。

用于加载的选项

若要加载数据,可以使用下列任一加载选项:

其他加载选项

除 PolyBase 和 COPY 语句以外,还可以使用 bcpSqlBulkCopy API。 bcp 可将数据直接加载到数据库而无需经过 Azure Blob 存储,但此方法只适用于小规模的加载。

备注

这些选项的加载性能低于 PolyBase 和 COPY 语句。

5.转换数据

在数据已进入临时表时,请执行工作负荷所需的转换。 然后将数据移到生产表。

6.将数据插入生产表

INSERT INTO ...SELECT 语句将数据从临时表移到永久表。

设计 ETL 过程时,请尝试针对一个较小的测试示例运行该过程。 尝试将表中的 1000 行提取到某个文件,将该文件移到 Azure,然后将其载入临时表。

合作伙伴加载解决方案

我们的很多合作伙伴都提供加载解决方案。 有关详细信息,请参阅我们的解决方案合作伙伴列表。

后续步骤

有关加载指南,请参阅加载数据的指南