tqdm 可以与数据库读取一起使用吗?
Can tqdm be used with Database Reads?
从 SQL 数据库读取大型关系到 pandas 数据帧时,最好有一个进度条,因为元组的数量是静态已知的,并且 I/O 率可以估计。看起来 tqdm
模块有一个函数 tqdm_pandas
,它将报告列映射函数的进度,但默认情况下调用它不会像这样报告 I/O 的进度。是否可以使用 tqdm
在调用 pd.read_sql
时制作进度条?
编辑:答案可能会产生误导 - chunksize
对操作的数据库端没有影响。请参阅下面的评论。
您可以使用 chunksize
参数来执行如下操作:
chunks = pd.read_sql('SELECT * FROM table', con=conn, chunksize=100)
df = pd.DataFrame()
for chunk in tqdm(chunks):
df = pd.concat([df, chunk])
我认为这也会使用更少的内存。
从 SQL 数据库读取大型关系到 pandas 数据帧时,最好有一个进度条,因为元组的数量是静态已知的,并且 I/O 率可以估计。看起来 tqdm
模块有一个函数 tqdm_pandas
,它将报告列映射函数的进度,但默认情况下调用它不会像这样报告 I/O 的进度。是否可以使用 tqdm
在调用 pd.read_sql
时制作进度条?
编辑:答案可能会产生误导 - chunksize
对操作的数据库端没有影响。请参阅下面的评论。
您可以使用 chunksize
参数来执行如下操作:
chunks = pd.read_sql('SELECT * FROM table', con=conn, chunksize=100)
df = pd.DataFrame()
for chunk in tqdm(chunks):
df = pd.concat([df, chunk])
我认为这也会使用更少的内存。