如何使 GCP 数据融合 MySQL 复制与 DateTime 列一起工作
How to make GCP Data Fusion MySQL Replication work well with DateTime columns
通过遵循 this article on Cloud Data Fusion Replication,我设法相当轻松地将 MySQL 表复制到 BigQuery 中。但是,DateTime 列存在问题。所有 DateTime 列都已使用 1970 年代的日期复制到 BigQuery 中。有谁知道如何解决这个问题?
这里是原始的MySQL数据:
这是 BigQuery 中的复制数据
我想到了另一种方法。您可以通过创建自己的批处理管道模拟 MySQL 复制到 BigQuery,然后按您想要的频率将该管道安排到 运行。 MySQL 设置很容易做到。关注the instructions to install the MySQL driver here即可。
然后设置 MySQL 数据源和 BigQuery 接收器。 MySQL 中的 DateTime 列应标记为时间戳,BigQuery 中它们对应的列必须是 DateTime.
类型
MySQL 数据源配置
BigQuery 接收器配置
最后,您可以在 MySQL 源之前执行 BigQuery 执行操作,以获取您已复制的最新记录的 ID 或时间。
通过遵循 this article on Cloud Data Fusion Replication,我设法相当轻松地将 MySQL 表复制到 BigQuery 中。但是,DateTime 列存在问题。所有 DateTime 列都已使用 1970 年代的日期复制到 BigQuery 中。有谁知道如何解决这个问题?
这里是原始的MySQL数据:
我想到了另一种方法。您可以通过创建自己的批处理管道模拟 MySQL 复制到 BigQuery,然后按您想要的频率将该管道安排到 运行。 MySQL 设置很容易做到。关注the instructions to install the MySQL driver here即可。 然后设置 MySQL 数据源和 BigQuery 接收器。 MySQL 中的 DateTime 列应标记为时间戳,BigQuery 中它们对应的列必须是 DateTime.
类型MySQL 数据源配置
BigQuery 接收器配置
最后,您可以在 MySQL 源之前执行 BigQuery 执行操作,以获取您已复制的最新记录的 ID 或时间。