如何使 GCP 数据融合 MySQL 复制与 DateTime 列一起工作

How to make GCP Data Fusion MySQL Replication work well with DateTime columns

通过遵循 this article on Cloud Data Fusion Replication,我设法相当轻松地将 MySQL 表复制到 BigQuery 中。但是,DateTime 列存在问题。所有 DateTime 列都已使用 1970 年代的日期复制到 BigQuery 中。有谁知道如何解决这个问题?

这里是原始的MySQL数据:
这是 BigQuery 中的复制数据

我想到了另一种方法。您可以通过创建自己的批处理管道模拟 MySQL 复制到 BigQuery,然后按您想要的频率将该管道安排到 运行。 MySQL 设置很容易做到。关注the instructions to install the MySQL driver here即可。 然后设置 MySQL 数据源和 BigQuery 接收器。 MySQL 中的 DateTime 列应标记为时间戳,BigQuery 中它们对应的列必须是 DateTime.

类型

MySQL 数据源配置

BigQuery 接收器配置

最后,您可以在 MySQL 源之前执行 BigQuery 执行操作,以获取您已复制的最新记录的 ID 或时间。