在不使用应用的情况下在数据帧上使用滚动时遇到问题,这很慢

Having trouble using rolling on a dataframe without using apply, which is slow

我有一个如下所示的数据框:

ID        Date        Prize     IfWon
1         01-01-20      5         1
2         01-01-20      8         1
1         01-03-20      3         0
1         01-04-20      10        1
1         01-07-20      5         0
2         01-10-20      5         1
3         01-10-20      10        1

我想添加一个新列,对于给定的 ID,将包括他们在该日期之前的 7 天内赢得的任何奖品的总和,不包括该日期。目标是拥有一个如下所示的数据框:

ID        Date        Prize     IfWon    PrevWon
1         01-01-20      5         1         0
2         01-01-20      8         1         0
1         01-03-20      3         0         5
1         01-04-20      10        1         5
1         01-07-20      5         0         15
2         01-10-20      5         1         0
3         01-10-20      10        1         0

下面是我必须执行的代码,它可以工作,但我遇到了两个问题:

def get_rolling_prize_sum(grp, freq):
    return grp.rolling(freq, on = 'Date', closed = 'right')['CurrentWon'].sum()

processed_data_df['CurrentWon'] = processed_data_df['Prize'] * processed_data_df['IfWon'] # gets deleted later
processed_data_df['PrevWon'] = processed_data_df.groupby('ID', group_keys=False).apply(get_rolling_prize_sum, '7D').astype(float) - processed_data_df['CurrentWon']
  1. 因为我不想包括当天的奖品,所以我试图关闭右侧的滚动,但是这不起作用(例如取出上面的 closed = 'right'会做完全相同的事情)。因此,我最终在最后一行做了减法。
  2. 我实际使用的数据库很大,我需要在不同的点做很多这样的滚动求和,但速度慢得令人发指。有人告诉我,我可以在没有 .apply 的情况下直接使用 .rolling 来做到这一点,但我无法让它正常工作。我的尝试在下面,但有错误,我会注意到这个错误花了几分钟才产生,这是唯一重要的计算,所以看起来好像它正在做它的一部分然后稍后失败:
# Not using closed right here, just subtracting
processed_data_df['PrevWon'] = processed_data_df.groupby('ID', group_keys=False).rolling('7D', on = 'Date')['CurrentWon'].sum() - processed_data_df['CurrentWon']

ValueError: cannot join with no overlapping index names

有什么想法吗?

改进了之前的答案并设法解决了 groupby 的排序问题

df = pd.read_csv("data.csv")
df["Date"] = pd.to_datetime(df['Date'], format='%m-%d-%y')
df["CurrentWon"] = df["Prize"] * df["IfWon"]

result = df.groupby("ID").rolling("7D", on = 'Date', closed = 'right').CurrentWon.sum().reset_index()
result.rename(columns={"CurrentWon": "PreviousWon"}, inplace=True)
df = df.merge(result, on=["ID", "Date"])
df["PreviousWon"] -= df["CurrentWon"]
print(df)

输出:

   ID       Date  Prize  IfWon  CurrentWon  PreviousWon
0   1 2020-01-01      5      1           5          0.0
1   2 2020-01-01      8      1           8          0.0
2   1 2020-01-03      3      0           0          5.0
3   1 2020-01-04     10      1          10          5.0
4   1 2020-01-07      5      0           0         15.0
5   2 2020-01-10      5      1           5          0.0
6   3 2020-01-10     10      1          10          0.0