优化只读Mysql slave
Optimize read-only Mysql slave
我的 delta 加载项目遇到了问题:)
上下文: 我基于 Postgres 的数据仓库每天都从我基于 Mysql 的网上商店提取数据。我们为此设置了一个只读的从机,我认为这是 IT 给我的最大支持,即不会对主机做任何事情来帮助我。
情况: 我想将最近创建或更新的行从 MySQL 拉到 Postgres。大约每 15-30 分钟一班。所以我的数据仓库中的延迟在过程结束时大约最多 30 分钟。
因此,在每个 table 上快速循环一个简单的日期条件就足够了。
问题: 网上商店数据库非常大,处理每个 table 需要一段时间(每个 table 最多 1 分钟,日期不是索引并且没有分区),这会损害整个项目...
问题:我可以优化那个只读mysql从机(不对主机进行任何操作)吗?
非常感谢!
五、
干杯,
文森特
对于感兴趣的人,这是我提出的解决方案:
我基本上是在slave(而不是master)上添加索引。问题解决了。
有趣的是,这对于 Mysql 数据库是可能的,因为复制过程正在使用日志等
干杯,
五、
我的 delta 加载项目遇到了问题:)
上下文: 我基于 Postgres 的数据仓库每天都从我基于 Mysql 的网上商店提取数据。我们为此设置了一个只读的从机,我认为这是 IT 给我的最大支持,即不会对主机做任何事情来帮助我。
情况: 我想将最近创建或更新的行从 MySQL 拉到 Postgres。大约每 15-30 分钟一班。所以我的数据仓库中的延迟在过程结束时大约最多 30 分钟。 因此,在每个 table 上快速循环一个简单的日期条件就足够了。
问题: 网上商店数据库非常大,处理每个 table 需要一段时间(每个 table 最多 1 分钟,日期不是索引并且没有分区),这会损害整个项目...
问题:我可以优化那个只读mysql从机(不对主机进行任何操作)吗?
非常感谢! 五、
干杯, 文森特
对于感兴趣的人,这是我提出的解决方案:
我基本上是在slave(而不是master)上添加索引。问题解决了。 有趣的是,这对于 Mysql 数据库是可能的,因为复制过程正在使用日志等
干杯, 五、