从 CSV 导入 Postgres 在 python 中缺少一些行

import from CSV to Postgres is missing some rows in python

我一直在尝试每隔 10 分钟将大量数据从 csv 导入 Postgres。 在芹菜的帮助下,我并行安排了几个工作。

没有。导入 postgres 后,csv 中的行不匹配。

我一直在使用 df.to_sql() 方法将 CSV 写入数据库,它没有抛出任何错误,但数据库中仍然缺少一些行。

根据我的观察,table 的大小增加导致缺少行。

是Postgres的限制吗? 或者是作业的重叠时间表导致了锁定或其他什么?

在我的 CSV 文件的一列中,我有这种格式的数据:

"abc, xyz"

因此,使用 quotechar='"' 帮助我解决了问题。

谢谢大家的意见和建议。