Pandas:使用来自另一个数据框的重复行更新多个数据框列
Pandas: Update Multiple Dataframe Columns Using Duplicate Rows From Another Dataframe
我有两个数据框:df1
和 df2
。 如果 来自 df2
的 Display Name
在 df1
的 Display Name
列中,我想分配 df1
s Type
、Format
、Behavior
、Datatype
个值到 df2
个值。
我已经 merge
尝试了所有我能想到的方法。我认为 loc
是我最大的希望,但我似乎无法正确使用赋值语法。另外,我正在寻找一个简洁的答案 - 最好是单行的。
像这样:
df2.loc[df2['Display Name'].isin(df1['Display Name']), /
['Type', 'Format', 'Behavior', 'Datatype']] = ???
我的代码:
import pandas as pd
import numpy as np
df1 = pd.DataFrame(
{'Behavior': ['Attribute', 'Attribute', 'Attribute', 'Attribute', 'Attribute',
'Attribute', 'Attribute', 'Metric', 'Metric', 'Metric', 'Metric',
'Metric', 'Metric', 'Metric', 'Metric'],
'Datatype': ['object', 'object', 'object', 'object', 'object', 'object',
'object', 'int64', 'int64', 'int64', 'int64', 'float64',
'float64', 'float64', 'float64'],
'Display Name': ['Campaign', 'Campaign ID', 'Campaign ID', 'Campaign state',
'Campaign state', 'Currency', 'Currency', 'Impressions',
'Impressions', 'Clicks', 'Clicks', 'CTR', 'CTR', 'Avg. CPC',
'Avg. CPC'],
'Format': ['{}', '{}', '{}', '{}', '{}', '{}', '{}', '{:,.0f}', '{:,.0f}',
'{:,.0f}', '{:,.0f}', '{:.2f}%', '{:.2f}%', '${:,.2f}', '${:,.2f}'],
'Type': ['String', 'String', 'String', 'String', 'String', 'String', 'String',
'Integer', 'Integer', 'Integer', 'Integer', 'Percent', 'Percent',
'Currency', 'Currency']},
columns=['Display Name', 'Type', 'Format', 'Behavior', 'Datatype'])
df2 = pd.DataFrame(
{ 'Behavior': [ 'Attribute', 'Metric', 'Metric', 'Metric', 'Attribute',
'Metric', 'Metric', 'Attribute', 'Metric', 'Metric', 'Metric'],
'Datatype': [ 'object', 'float64', 'float64', 'float64', 'object', 'int64',
'int64', 'object', 'float64', 'float64', 'float64'],
'Display Name': [ 'Match type', 'Destination URL', 'Final URL',
'Mobile final URL', 'Labels', 'Impressions', 'Clicks',
'CTR', 'Avg. CPC', 'Cost', 'Avg. position'],
'Format': [ '{}', '{:.2f}', '{:.2f}', '{:.2f}', '{}', '{:,.0f}', '{:,.0f}',
'{}', '{:.2f}', '{:.2f}', '{:.2f}'],
'Type': [ 'String', 'Float', 'Float', 'Float', 'String', 'Integer',
'Integer', 'String', 'Float', 'Float', 'Float']},
columns=['Display Name', 'Type', 'Format', 'Behavior', 'Datatype'])
df2_vals_in_df1 = df2.loc[df2['Display Name'].isin(df1['Display Name']), df2.columns[:]]
df1_vals_in_df2 = df1.loc[df1['Display Name'].isin(df2['Display Name']), df1.columns[:]]
外观:
>>> df1
Display Name Type Format Behavior Datatype
0 Campaign String {} Attribute object
1 Campaign ID String {} Attribute object
2 Campaign ID String {} Attribute object
3 Campaign state String {} Attribute object
4 Campaign state String {} Attribute object
5 Currency String {} Attribute object
6 Currency String {} Attribute object
7 Impressions Integer {:,.0f} Metric int64
8 Impressions Integer {:,.0f} Metric int64
9 Clicks Integer {:,.0f} Metric int64
10 Clicks Integer {:,.0f} Metric int64
11 CTR Percent {:.2f}% Metric float64
12 CTR Percent {:.2f}% Metric float64
13 Avg. CPC Currency ${:,.2f} Metric float64
14 Avg. CPC Currency ${:,.2f} Metric float64
>>> df2
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR String {} Attribute object
8 Avg. CPC Float {:.2f} Metric float64
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
>>> df2_vals_in_df1
Display Name Type Format Behavior Datatype
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR String {} Attribute object
8 Avg. CPC Float {:.2f} Metric float64
>>> df1_vals_in_df2
Display Name Type Format Behavior Datatype
7 Impressions Integer {:,.0f} Metric int64
8 Impressions Integer {:,.0f} Metric int64
9 Clicks Integer {:,.0f} Metric int64
10 Clicks Integer {:,.0f} Metric int64
11 CTR Percent {:.2f}% Metric float64
12 CTR Percent {:.2f}% Metric float64
13 Avg. CPC Currency ${:,.2f} Metric float64
14 Avg. CPC Currency ${:,.2f} Metric float64
请注意 df1_vals_in_df2
Display Name
可能多次使用相同的名称。它们的 Type
、Format
、Behavior
、Datatype
值在两行中始终是相同的值。
df2
的预期输出:
>>> df2
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64 <-- same
6 Clicks Integer {:,.0f} Metric int64 <-- same
7 CTR Percent {:.2f}% Metric float64 <-- changed
8 Avg. CPC Currency ${:,.2f} Metric float64 <-- changed
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
要点#1:第 5、6 行相同,因为它们在 df1
和 df2
.
中相同
要点#2:第 7 行,从 String, {}, Attribute, object
更改为 Percent, {:.2f}%, Metric, float64
- 来自 df1
的行值,因为 [=17= df2
的 ] 在 df1
的 Display Name
中找到。
要点 #3:第 8 行,更改的原因与要点 #2 中所述的相同。
尝试过:
Q1:
没有解决这个问题,因为我没有尝试创建新的数据框;我正在尝试用另一个替换现有数据框中的值。
Q2:Replace column values based on another dataframe python pandas - better way?
没有解决这个问题,因为该示例包含一个具有正确值的 df,而我的情况是一个具有正确值和不正确值的 df。
抱歉,这是一个很长的问题。我只是想提供足够的上下文。
我认为 combine_first
将是一个优雅的解决方案,按照 JohnE 的说法,前提是您将 Display Name
设置为索引。这让我想到了另一点。我认为只有当 'Display Name' 恰好对应于每个 table 中的一组属性时,您的任务才是明确定义的。假设您可以删除重复项,设置索引并使用 .update
,如下所示:
df1 = df1.drop_duplicates()
df1 = df1.set_index('Display Name')
df2 = df2.set_index('Display Name')
df2_c = df2.copy()
df2.update(df1)
df1.update(df2_c)
del df2_c
您可以根据需要使用辅助索引重置 df1
的维度。
不理想,但我能够重新创建预期的输出。问题是,我想避免制作 df3
并希望在 df2
内进行全部替换,所以这并不理想。
df2
之前:
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR String {} Attribute object
8 Avg. CPC Float {:.2f} Metric float64
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
df3
之后:
df3 = df2.combine_first(df1).drop_duplicates('Display Name', keep='last')
df3 = df3.set_index(df3['Display Name'].map(dict(zip(df2['Display Name'], df2.index)))).sort_index().reset_index(drop=True)
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR Percent {:.2f}% Metric float64
8 Avg. CPC Currency ${:,.2f} Metric float64
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
df2
前后对比:
Display Name Type Format Behavior Datatype
0 True True True True True
1 True True True True True
2 True True True True True
3 True True True True True
4 True True True True True
5 True True True True True
6 True True True True True
7 True False False False False
8 True False False True True
9 True True True True True
10 True True True True True
我有两个数据框:df1
和 df2
。 如果 来自 df2
的 Display Name
在 df1
的 Display Name
列中,我想分配 df1
s Type
、Format
、Behavior
、Datatype
个值到 df2
个值。
我已经 merge
尝试了所有我能想到的方法。我认为 loc
是我最大的希望,但我似乎无法正确使用赋值语法。另外,我正在寻找一个简洁的答案 - 最好是单行的。
像这样:
df2.loc[df2['Display Name'].isin(df1['Display Name']), /
['Type', 'Format', 'Behavior', 'Datatype']] = ???
我的代码:
import pandas as pd
import numpy as np
df1 = pd.DataFrame(
{'Behavior': ['Attribute', 'Attribute', 'Attribute', 'Attribute', 'Attribute',
'Attribute', 'Attribute', 'Metric', 'Metric', 'Metric', 'Metric',
'Metric', 'Metric', 'Metric', 'Metric'],
'Datatype': ['object', 'object', 'object', 'object', 'object', 'object',
'object', 'int64', 'int64', 'int64', 'int64', 'float64',
'float64', 'float64', 'float64'],
'Display Name': ['Campaign', 'Campaign ID', 'Campaign ID', 'Campaign state',
'Campaign state', 'Currency', 'Currency', 'Impressions',
'Impressions', 'Clicks', 'Clicks', 'CTR', 'CTR', 'Avg. CPC',
'Avg. CPC'],
'Format': ['{}', '{}', '{}', '{}', '{}', '{}', '{}', '{:,.0f}', '{:,.0f}',
'{:,.0f}', '{:,.0f}', '{:.2f}%', '{:.2f}%', '${:,.2f}', '${:,.2f}'],
'Type': ['String', 'String', 'String', 'String', 'String', 'String', 'String',
'Integer', 'Integer', 'Integer', 'Integer', 'Percent', 'Percent',
'Currency', 'Currency']},
columns=['Display Name', 'Type', 'Format', 'Behavior', 'Datatype'])
df2 = pd.DataFrame(
{ 'Behavior': [ 'Attribute', 'Metric', 'Metric', 'Metric', 'Attribute',
'Metric', 'Metric', 'Attribute', 'Metric', 'Metric', 'Metric'],
'Datatype': [ 'object', 'float64', 'float64', 'float64', 'object', 'int64',
'int64', 'object', 'float64', 'float64', 'float64'],
'Display Name': [ 'Match type', 'Destination URL', 'Final URL',
'Mobile final URL', 'Labels', 'Impressions', 'Clicks',
'CTR', 'Avg. CPC', 'Cost', 'Avg. position'],
'Format': [ '{}', '{:.2f}', '{:.2f}', '{:.2f}', '{}', '{:,.0f}', '{:,.0f}',
'{}', '{:.2f}', '{:.2f}', '{:.2f}'],
'Type': [ 'String', 'Float', 'Float', 'Float', 'String', 'Integer',
'Integer', 'String', 'Float', 'Float', 'Float']},
columns=['Display Name', 'Type', 'Format', 'Behavior', 'Datatype'])
df2_vals_in_df1 = df2.loc[df2['Display Name'].isin(df1['Display Name']), df2.columns[:]]
df1_vals_in_df2 = df1.loc[df1['Display Name'].isin(df2['Display Name']), df1.columns[:]]
外观:
>>> df1
Display Name Type Format Behavior Datatype
0 Campaign String {} Attribute object
1 Campaign ID String {} Attribute object
2 Campaign ID String {} Attribute object
3 Campaign state String {} Attribute object
4 Campaign state String {} Attribute object
5 Currency String {} Attribute object
6 Currency String {} Attribute object
7 Impressions Integer {:,.0f} Metric int64
8 Impressions Integer {:,.0f} Metric int64
9 Clicks Integer {:,.0f} Metric int64
10 Clicks Integer {:,.0f} Metric int64
11 CTR Percent {:.2f}% Metric float64
12 CTR Percent {:.2f}% Metric float64
13 Avg. CPC Currency ${:,.2f} Metric float64
14 Avg. CPC Currency ${:,.2f} Metric float64
>>> df2
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR String {} Attribute object
8 Avg. CPC Float {:.2f} Metric float64
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
>>> df2_vals_in_df1
Display Name Type Format Behavior Datatype
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR String {} Attribute object
8 Avg. CPC Float {:.2f} Metric float64
>>> df1_vals_in_df2
Display Name Type Format Behavior Datatype
7 Impressions Integer {:,.0f} Metric int64
8 Impressions Integer {:,.0f} Metric int64
9 Clicks Integer {:,.0f} Metric int64
10 Clicks Integer {:,.0f} Metric int64
11 CTR Percent {:.2f}% Metric float64
12 CTR Percent {:.2f}% Metric float64
13 Avg. CPC Currency ${:,.2f} Metric float64
14 Avg. CPC Currency ${:,.2f} Metric float64
请注意 df1_vals_in_df2
Display Name
可能多次使用相同的名称。它们的 Type
、Format
、Behavior
、Datatype
值在两行中始终是相同的值。
df2
的预期输出:
>>> df2
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64 <-- same
6 Clicks Integer {:,.0f} Metric int64 <-- same
7 CTR Percent {:.2f}% Metric float64 <-- changed
8 Avg. CPC Currency ${:,.2f} Metric float64 <-- changed
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
要点#1:第 5、6 行相同,因为它们在 df1
和 df2
.
要点#2:第 7 行,从 String, {}, Attribute, object
更改为 Percent, {:.2f}%, Metric, float64
- 来自 df1
的行值,因为 [=17= df2
的 ] 在 df1
的 Display Name
中找到。
要点 #3:第 8 行,更改的原因与要点 #2 中所述的相同。
尝试过:
Q1:
没有解决这个问题,因为我没有尝试创建新的数据框;我正在尝试用另一个替换现有数据框中的值。
Q2:Replace column values based on another dataframe python pandas - better way?
没有解决这个问题,因为该示例包含一个具有正确值的 df,而我的情况是一个具有正确值和不正确值的 df。
抱歉,这是一个很长的问题。我只是想提供足够的上下文。
我认为 combine_first
将是一个优雅的解决方案,按照 JohnE 的说法,前提是您将 Display Name
设置为索引。这让我想到了另一点。我认为只有当 'Display Name' 恰好对应于每个 table 中的一组属性时,您的任务才是明确定义的。假设您可以删除重复项,设置索引并使用 .update
,如下所示:
df1 = df1.drop_duplicates()
df1 = df1.set_index('Display Name')
df2 = df2.set_index('Display Name')
df2_c = df2.copy()
df2.update(df1)
df1.update(df2_c)
del df2_c
您可以根据需要使用辅助索引重置 df1
的维度。
不理想,但我能够重新创建预期的输出。问题是,我想避免制作 df3
并希望在 df2
内进行全部替换,所以这并不理想。
df2
之前:
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR String {} Attribute object
8 Avg. CPC Float {:.2f} Metric float64
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
df3
之后:
df3 = df2.combine_first(df1).drop_duplicates('Display Name', keep='last')
df3 = df3.set_index(df3['Display Name'].map(dict(zip(df2['Display Name'], df2.index)))).sort_index().reset_index(drop=True)
Display Name Type Format Behavior Datatype
0 Match type String {} Attribute object
1 Destination URL Float {:.2f} Metric float64
2 Final URL Float {:.2f} Metric float64
3 Mobile final URL Float {:.2f} Metric float64
4 Labels String {} Attribute object
5 Impressions Integer {:,.0f} Metric int64
6 Clicks Integer {:,.0f} Metric int64
7 CTR Percent {:.2f}% Metric float64
8 Avg. CPC Currency ${:,.2f} Metric float64
9 Cost Float {:.2f} Metric float64
10 Avg. position Float {:.2f} Metric float64
df2
前后对比:
Display Name Type Format Behavior Datatype
0 True True True True True
1 True True True True True
2 True True True True True
3 True True True True True
4 True True True True True
5 True True True True True
6 True True True True True
7 True False False False False
8 True False False True True
9 True True True True True
10 True True True True True