Parquet 文件日期时间值不匹配
Parquet File datetime value mismatch
使用 pandas 读取镶木地板文件时,日期时间字段中的值发生变化。例如,读取镶木地板文件时该字段的输出是 2021-02-07 10:43:20.067,但实际值应该是 2021-02-07 6:43:20。对于少数记录,日期时间列以相同的方式看到 +4 和 +5 小时。所有日期的分钟和秒都相同,但只有小时字段正在更改。
我正在使用以下代码
df=pd.read_parquet('filename.parquet')
parquet 中所有字段的数据类型都是datetime64[ns]
。
根据您的描述,我怀疑这可能与实行夏令时的时区有关。如果您认为这是原因,那么我会这样做:
pd.to_datetime(df['datetime'])\
.dt.tz_localize('UTC')\
.dt.tz_convert('Europe/Berlin')
第一行确保该列采用 date-time 格式,以便后续行能够正常工作。
第二行定义了用于生成 parquet 文件的时区。
第三行将时区转换为您感兴趣的时区。
使用 pandas 读取镶木地板文件时,日期时间字段中的值发生变化。例如,读取镶木地板文件时该字段的输出是 2021-02-07 10:43:20.067,但实际值应该是 2021-02-07 6:43:20。对于少数记录,日期时间列以相同的方式看到 +4 和 +5 小时。所有日期的分钟和秒都相同,但只有小时字段正在更改。
我正在使用以下代码
df=pd.read_parquet('filename.parquet')
parquet 中所有字段的数据类型都是datetime64[ns]
。
根据您的描述,我怀疑这可能与实行夏令时的时区有关。如果您认为这是原因,那么我会这样做:
pd.to_datetime(df['datetime'])\
.dt.tz_localize('UTC')\
.dt.tz_convert('Europe/Berlin')
第一行确保该列采用 date-time 格式,以便后续行能够正常工作。
第二行定义了用于生成 parquet 文件的时区。
第三行将时区转换为您感兴趣的时区。