加载 30GB CSV 文件时失去与 MySQL 服务器的连接
losing connection to MySQL server when loading 30GB CSV file
我正在尝试使用以下方法将 30GB CSV 文件加载到 MySQL 中:
LOAD DATA LOCAL INFILE 'C:Documents/CRSP.csv' INTO TABLE rawcrsp
FIELDS TERMINATED BY ',' LINES TERMINATED BY '\n' IGNORE 1 LINES
经过几个小时的等待,我得到一个错误:错误代码:2013。在查询期间与 MySQL 服务器失去连接。
相同的代码适用于格式完全相同的较小 CSV 文件。我在 Windows 7 工作。我有 24 GB 内存和 240 GB 空闲 space 硬盘。关于如何加载它的任何提示?
我能想到两个原因:
- 检查配置文件中的 wait_timeout 变量是否足够大,如果不够大。
- 如果mysqld 得到一个太大的数据包,它认为客户端有问题并关闭连接。尝试最大化配置文件中的数据包大小限制。
我正在尝试使用以下方法将 30GB CSV 文件加载到 MySQL 中:
LOAD DATA LOCAL INFILE 'C:Documents/CRSP.csv' INTO TABLE rawcrsp
FIELDS TERMINATED BY ',' LINES TERMINATED BY '\n' IGNORE 1 LINES
经过几个小时的等待,我得到一个错误:错误代码:2013。在查询期间与 MySQL 服务器失去连接。
相同的代码适用于格式完全相同的较小 CSV 文件。我在 Windows 7 工作。我有 24 GB 内存和 240 GB 空闲 space 硬盘。关于如何加载它的任何提示?
我能想到两个原因:
- 检查配置文件中的 wait_timeout 变量是否足够大,如果不够大。
- 如果mysqld 得到一个太大的数据包,它认为客户端有问题并关闭连接。尝试最大化配置文件中的数据包大小限制。