从 CSV 导入 Postgres 在 python 中缺少一些行
import from CSV to Postgres is missing some rows in python
我一直在尝试每隔 10 分钟将大量数据从 csv 导入 Postgres。
在芹菜的帮助下,我并行安排了几个工作。
没有。导入 postgres 后,csv 中的行不匹配。
我一直在使用 df.to_sql()
方法将 CSV 写入数据库,它没有抛出任何错误,但数据库中仍然缺少一些行。
根据我的观察,table 的大小增加导致缺少行。
是Postgres的限制吗?
或者是作业的重叠时间表导致了锁定或其他什么?
在我的 CSV 文件的一列中,我有这种格式的数据:
"abc, xyz"
因此,使用 quotechar='"'
帮助我解决了问题。
谢谢大家的意见和建议。
我一直在尝试每隔 10 分钟将大量数据从 csv 导入 Postgres。 在芹菜的帮助下,我并行安排了几个工作。
没有。导入 postgres 后,csv 中的行不匹配。
我一直在使用 df.to_sql()
方法将 CSV 写入数据库,它没有抛出任何错误,但数据库中仍然缺少一些行。
根据我的观察,table 的大小增加导致缺少行。
是Postgres的限制吗? 或者是作业的重叠时间表导致了锁定或其他什么?
在我的 CSV 文件的一列中,我有这种格式的数据:
"abc, xyz"
因此,使用 quotechar='"'
帮助我解决了问题。
谢谢大家的意见和建议。