pandas groupby应用于多列生成新列
pandas groupby apply on multiple columns to generate a new column
我喜欢使用 groupby-apply 在 pandas 数据框中生成一个新列。
例如,我有一个数据框:
df = pd.DataFrame({'A':[1,2,3,4],'B':['A','B','A','B'],'C':[0,0,1,1]})
并尝试通过 groupby-apply 生成一个新列 'D'。
这个有效:
df = df.assign(D=df.groupby('B').C.apply(lambda x: x - x.mean()))
因为(我认为)它return是一个与数据帧具有相同索引的系列:
In [4]: df.groupby('B').C.apply(lambda x: x - x.mean())
Out[4]:
0 -0.5
1 -0.5
2 0.5
3 0.5
Name: C, dtype: float64
但是如果我尝试使用多列生成新列,我无法将其直接分配给新列。所以这不起作用:
df.assign(D=df.groupby('B').apply(lambda x: x.A - x.C.mean()))
returning
TypeError: incompatible index of inserted column with frame index
事实上,groupby-apply returns:
In [8]: df.groupby('B').apply(lambda x: x.A - x.C.mean())
Out[8]:
B
A 0 0.5
2 2.5
B 1 1.5
3 3.5
Name: A, dtype: float64
我可以
df.groupby('B').apply(lambda x: x.A - x.C.mean()).reset_index(level=0,drop=True))
但这看起来很冗长,我不确定这是否会始终按预期工作。
所以我的问题是:(i) pandas groupby 何时应用 return 类似索引系列与多索引系列? (ii) 有没有更好的方法通过 groupby-apply 分配一个新列到多个列?
对于这种情况,我认为在申请中包含A列是不必要的,我们可以使用transform
df.A-df.groupby('B').C.transform('mean')
Out[272]:
0 0.5
1 1.5
2 2.5
3 3.5
dtype: float64
你可以将它分配回去
df['diff']= df.A-df.groupby('B').C.transform('mean')
df
Out[274]:
A B C diff
0 1 A 0 0.5
1 2 B 0 1.5
2 3 A 1 2.5
3 4 B 1 3.5
让我们在groupby
中使用group_keys=False
df.assign(D=df.groupby('B', group_keys=False).apply(lambda x: x.A - x.C.mean()))
输出:
A B C D
0 1 A 0 0.5
1 2 B 0 1.5
2 3 A 1 2.5
3 4 B 1 3.5
我喜欢使用 groupby-apply 在 pandas 数据框中生成一个新列。
例如,我有一个数据框:
df = pd.DataFrame({'A':[1,2,3,4],'B':['A','B','A','B'],'C':[0,0,1,1]})
并尝试通过 groupby-apply 生成一个新列 'D'。
这个有效:
df = df.assign(D=df.groupby('B').C.apply(lambda x: x - x.mean()))
因为(我认为)它return是一个与数据帧具有相同索引的系列:
In [4]: df.groupby('B').C.apply(lambda x: x - x.mean())
Out[4]:
0 -0.5
1 -0.5
2 0.5
3 0.5
Name: C, dtype: float64
但是如果我尝试使用多列生成新列,我无法将其直接分配给新列。所以这不起作用:
df.assign(D=df.groupby('B').apply(lambda x: x.A - x.C.mean()))
returning
TypeError: incompatible index of inserted column with frame index
事实上,groupby-apply returns:
In [8]: df.groupby('B').apply(lambda x: x.A - x.C.mean())
Out[8]:
B
A 0 0.5
2 2.5
B 1 1.5
3 3.5
Name: A, dtype: float64
我可以
df.groupby('B').apply(lambda x: x.A - x.C.mean()).reset_index(level=0,drop=True))
但这看起来很冗长,我不确定这是否会始终按预期工作。
所以我的问题是:(i) pandas groupby 何时应用 return 类似索引系列与多索引系列? (ii) 有没有更好的方法通过 groupby-apply 分配一个新列到多个列?
对于这种情况,我认为在申请中包含A列是不必要的,我们可以使用transform
df.A-df.groupby('B').C.transform('mean')
Out[272]:
0 0.5
1 1.5
2 2.5
3 3.5
dtype: float64
你可以将它分配回去
df['diff']= df.A-df.groupby('B').C.transform('mean')
df
Out[274]:
A B C diff
0 1 A 0 0.5
1 2 B 0 1.5
2 3 A 1 2.5
3 4 B 1 3.5
让我们在groupby
中使用group_keys=False
df.assign(D=df.groupby('B', group_keys=False).apply(lambda x: x.A - x.C.mean()))
输出:
A B C D
0 1 A 0 0.5
1 2 B 0 1.5
2 3 A 1 2.5
3 4 B 1 3.5