使用 odo 将数据迁移到 SQL
Using odo to migrate data to SQL
我有一个 3 GB 的大 CSV 文件,我想使用 Blaze 调查数据,select 直到我感兴趣的数据进行分析,最终目标是迁移该数据将数据导入合适的计算后端,如 SQlite、PostgresSQL 等。我可以将这些数据导入 Blaze 并对其进行处理,但这是我遇到问题的部分:
db = odo(bdata, 'sqlite:///report.db::report')`
我不确定如何正确创建 db 文件以使用 sqlite 打开。
您可以使用此处列出的说明直接从 CSV 转到 sqlite。
http://odo.pydata.org/en/latest/perf.html?highlight=sqlite#csv-sqlite3-57m-31s
我认为您缺少此处警告的列名:http://odo.pydata.org/en/latest/sql.html?highlight=sqlite
dshape = discover(resource('report_2015.csv'))
t = odo('report_2015.csv', 'sqlite:///report.db::report', dshape=dshape)
我有一个 3 GB 的大 CSV 文件,我想使用 Blaze 调查数据,select 直到我感兴趣的数据进行分析,最终目标是迁移该数据将数据导入合适的计算后端,如 SQlite、PostgresSQL 等。我可以将这些数据导入 Blaze 并对其进行处理,但这是我遇到问题的部分:
db = odo(bdata, 'sqlite:///report.db::report')`
我不确定如何正确创建 db 文件以使用 sqlite 打开。
您可以使用此处列出的说明直接从 CSV 转到 sqlite。 http://odo.pydata.org/en/latest/perf.html?highlight=sqlite#csv-sqlite3-57m-31s 我认为您缺少此处警告的列名:http://odo.pydata.org/en/latest/sql.html?highlight=sqlite
dshape = discover(resource('report_2015.csv'))
t = odo('report_2015.csv', 'sqlite:///report.db::report', dshape=dshape)