Pandas pd.cut() - 合并日期时间列/系列
Pandas pd.cut() - binning datetime column / series
正在尝试使用 pd.cut() 做一个垃圾桶,但它相当复杂-
一位同事向我发送了多个包含报告日期的文件,例如:
'03-16-2017 to 03-22-2017'
'03-23-2017 to 03-29-2017'
'03-30-2017 to 04-05-2017'
它们全部组合成一个数据帧并指定一个列名 df['Filedate'] 以便文件中的每条记录都有正确的文件日期。
最后一天是一个截止点,所以我创建了一个新列 df['Filedate_bin'] 将最后一天转换为 3/22/2017、3/29/2017、4/05/2017作为字符串。
然后我创建了一个列表:Filedate_bin_list= df.Filedate_bin.unique()。因此,我有一个独特的字符串截止日期列表,我想将其用作垃圾箱。
将不同的数据导入dataframe,有一列交易日期:3/28/2017、3/29/2017、3/30/2017、4/1/2017、4/2/2017等. 将它们分配到一个垃圾箱很困难,它尝试过:
df['bin'] = pd.cut(df.Processed_date, Filedate_bin_list)
收到TypeError: unsupported operand type for -: 'str' and 'str'
返回并尝试将 Filedate_bin 转换为日期时间,格式='%m/%d/%Y' 并得到
TypeError: Cannot cast ufunc less input from dtype('<m8[ns]') to dtype ('<m8') with casting rule 'same_kind'.
是否有更好的方法将我的 processed_date(s) 放入文本箱?
我正在尝试将我的处理日期从 2017 年 3 月 27 日到“2017 年 3 月 23 日到 2017 年 3 月 29 日”
更新: 从 Pandas v0.20.1 (May 5, 2017) pd.cut
and pd.qcut
support datetime64 and timedelta64 dtypes (GH14714, GH14798 开始)。
谢谢
旧答案:
考虑这种方法:
df = pd.DataFrame(pd.date_range('2000-01-02', freq='1D', periods=15), columns=['Date'])
bins_dt = pd.date_range('2000-01-01', freq='3D', periods=6)
bins_str = bins_dt.astype(str).values
labels = ['({}, {}]'.format(bins_str[i-1], bins_str[i]) for i in range(1, len(bins_str))]
df['cat'] = pd.cut(df.Date.astype(np.int64)//10**9,
bins=bins_dt.astype(np.int64)//10**9,
labels=labels)
结果:
In [59]: df
Out[59]:
Date cat
0 2000-01-02 (2000-01-01, 2000-01-04]
1 2000-01-03 (2000-01-01, 2000-01-04]
2 2000-01-04 (2000-01-01, 2000-01-04]
3 2000-01-05 (2000-01-04, 2000-01-07]
4 2000-01-06 (2000-01-04, 2000-01-07]
5 2000-01-07 (2000-01-04, 2000-01-07]
6 2000-01-08 (2000-01-07, 2000-01-10]
7 2000-01-09 (2000-01-07, 2000-01-10]
8 2000-01-10 (2000-01-07, 2000-01-10]
9 2000-01-11 (2000-01-10, 2000-01-13]
10 2000-01-12 (2000-01-10, 2000-01-13]
11 2000-01-13 (2000-01-10, 2000-01-13]
12 2000-01-14 (2000-01-13, 2000-01-16]
13 2000-01-15 (2000-01-13, 2000-01-16]
14 2000-01-16 (2000-01-13, 2000-01-16]
In [60]: df.dtypes
Out[60]:
Date datetime64[ns]
cat category
dtype: object
解释:
df.Date.astype(np.int64)//10**9
- 将 datetime
值转换为 UNIX 纪元(时间戳 - 自 1970-01-01 00:00:00
以来的秒数):
In [65]: df.Date.astype(np.int64)//10**9
Out[65]:
0 946771200
1 946857600
2 946944000
3 947030400
4 947116800
5 947203200
6 947289600
7 947376000
8 947462400
9 947548800
10 947635200
11 947721600
12 947808000
13 947894400
14 947980800
Name: Date, dtype: int64
同样适用于 bins
:
In [66]: bins_dt.astype(np.int64)//10**9
Out[66]: Int64Index([946684800, 946944000, 947203200, 947462400, 947721600, 947980800], dtype='int64')
标签:
In [67]: labels
Out[67]:
['(2000-01-01, 2000-01-04]',
'(2000-01-04, 2000-01-07]',
'(2000-01-07, 2000-01-10]',
'(2000-01-10, 2000-01-13]',
'(2000-01-13, 2000-01-16]']
正在尝试使用 pd.cut() 做一个垃圾桶,但它相当复杂-
一位同事向我发送了多个包含报告日期的文件,例如:
'03-16-2017 to 03-22-2017'
'03-23-2017 to 03-29-2017'
'03-30-2017 to 04-05-2017'
它们全部组合成一个数据帧并指定一个列名 df['Filedate'] 以便文件中的每条记录都有正确的文件日期。
最后一天是一个截止点,所以我创建了一个新列 df['Filedate_bin'] 将最后一天转换为 3/22/2017、3/29/2017、4/05/2017作为字符串。
然后我创建了一个列表:Filedate_bin_list= df.Filedate_bin.unique()。因此,我有一个独特的字符串截止日期列表,我想将其用作垃圾箱。
将不同的数据导入dataframe,有一列交易日期:3/28/2017、3/29/2017、3/30/2017、4/1/2017、4/2/2017等. 将它们分配到一个垃圾箱很困难,它尝试过:
df['bin'] = pd.cut(df.Processed_date, Filedate_bin_list)
收到TypeError: unsupported operand type for -: 'str' and 'str'
返回并尝试将 Filedate_bin 转换为日期时间,格式='%m/%d/%Y' 并得到
TypeError: Cannot cast ufunc less input from dtype('<m8[ns]') to dtype ('<m8') with casting rule 'same_kind'.
是否有更好的方法将我的 processed_date(s) 放入文本箱?
我正在尝试将我的处理日期从 2017 年 3 月 27 日到“2017 年 3 月 23 日到 2017 年 3 月 29 日”
更新: 从 Pandas v0.20.1 (May 5, 2017) pd.cut
and pd.qcut
support datetime64 and timedelta64 dtypes (GH14714, GH14798 开始)。
谢谢
旧答案:
考虑这种方法:
df = pd.DataFrame(pd.date_range('2000-01-02', freq='1D', periods=15), columns=['Date'])
bins_dt = pd.date_range('2000-01-01', freq='3D', periods=6)
bins_str = bins_dt.astype(str).values
labels = ['({}, {}]'.format(bins_str[i-1], bins_str[i]) for i in range(1, len(bins_str))]
df['cat'] = pd.cut(df.Date.astype(np.int64)//10**9,
bins=bins_dt.astype(np.int64)//10**9,
labels=labels)
结果:
In [59]: df
Out[59]:
Date cat
0 2000-01-02 (2000-01-01, 2000-01-04]
1 2000-01-03 (2000-01-01, 2000-01-04]
2 2000-01-04 (2000-01-01, 2000-01-04]
3 2000-01-05 (2000-01-04, 2000-01-07]
4 2000-01-06 (2000-01-04, 2000-01-07]
5 2000-01-07 (2000-01-04, 2000-01-07]
6 2000-01-08 (2000-01-07, 2000-01-10]
7 2000-01-09 (2000-01-07, 2000-01-10]
8 2000-01-10 (2000-01-07, 2000-01-10]
9 2000-01-11 (2000-01-10, 2000-01-13]
10 2000-01-12 (2000-01-10, 2000-01-13]
11 2000-01-13 (2000-01-10, 2000-01-13]
12 2000-01-14 (2000-01-13, 2000-01-16]
13 2000-01-15 (2000-01-13, 2000-01-16]
14 2000-01-16 (2000-01-13, 2000-01-16]
In [60]: df.dtypes
Out[60]:
Date datetime64[ns]
cat category
dtype: object
解释:
df.Date.astype(np.int64)//10**9
- 将 datetime
值转换为 UNIX 纪元(时间戳 - 自 1970-01-01 00:00:00
以来的秒数):
In [65]: df.Date.astype(np.int64)//10**9
Out[65]:
0 946771200
1 946857600
2 946944000
3 947030400
4 947116800
5 947203200
6 947289600
7 947376000
8 947462400
9 947548800
10 947635200
11 947721600
12 947808000
13 947894400
14 947980800
Name: Date, dtype: int64
同样适用于 bins
:
In [66]: bins_dt.astype(np.int64)//10**9
Out[66]: Int64Index([946684800, 946944000, 947203200, 947462400, 947721600, 947980800], dtype='int64')
标签:
In [67]: labels
Out[67]:
['(2000-01-01, 2000-01-04]',
'(2000-01-04, 2000-01-07]',
'(2000-01-07, 2000-01-10]',
'(2000-01-10, 2000-01-13]',
'(2000-01-13, 2000-01-16]']