将数据从本地 MySQL 提取和转换到 Azure Synapse 数据仓库
Extracting and Transforming Data from local MySQL to Azure Synapse Data Warehouse
我正在尝试在 Azure Synapse 中设置演示数据仓库。我想从本地 MySQL 数据库中提取数据,转换和聚合一些数据并将其存储在 Azure Synapse Analytics 的 fact-/dimension 表中。
目前我有一个 Azure SQL 数据仓库和数据工厂实例。我在数据工厂中创建了一个到我的 MySQL 数据库的连接,我的想法是,我可以使用这个连接器作为新数据流的输入,它转换数据集并将其存储到我的目标数据集,该数据集链接到我的Azure Synapse 数据仓库。
问题是,数据工厂只支持一些 Azure 服务,例如 Azure Data Lake 或 Azure SQL 数据库作为新数据流的源。
解决此问题的最佳做法是什么?创建 Azure SQL 数据库实例,将数据从本地 MySQL 数据库复制到 Azure SQL 数据库,然后将其用作新数据流的源?
此处的最佳做法是在 ADF 管道中使用复制 Activity 将数据从 MySQL 放入 Blob 或 ADLS G2 中的 Parquet,然后使用数据流转换数据。
我正在尝试在 Azure Synapse 中设置演示数据仓库。我想从本地 MySQL 数据库中提取数据,转换和聚合一些数据并将其存储在 Azure Synapse Analytics 的 fact-/dimension 表中。
目前我有一个 Azure SQL 数据仓库和数据工厂实例。我在数据工厂中创建了一个到我的 MySQL 数据库的连接,我的想法是,我可以使用这个连接器作为新数据流的输入,它转换数据集并将其存储到我的目标数据集,该数据集链接到我的Azure Synapse 数据仓库。
问题是,数据工厂只支持一些 Azure 服务,例如 Azure Data Lake 或 Azure SQL 数据库作为新数据流的源。
解决此问题的最佳做法是什么?创建 Azure SQL 数据库实例,将数据从本地 MySQL 数据库复制到 Azure SQL 数据库,然后将其用作新数据流的源?
此处的最佳做法是在 ADF 管道中使用复制 Activity 将数据从 MySQL 放入 Blob 或 ADLS G2 中的 Parquet,然后使用数据流转换数据。