使用 pandas 查找时间序列中的重复事件

Question

我有一个时间序列的事件，我想计算时间序列中每种事件的先前非连续发生次数。我想用 pandas 来做到这一点。我可以遍历这些项目，但我想知道是否有一种聪明的方法可以做到 w/o 循环。

为了更清楚。考虑以下时间序列：

dates = pd.date_range('1/1/2011', periods=4, freq='H')
data = ['a', 'a', 'b', 'a']
df = pd.DataFrame(data,index=dates,columns=["event"])

                    event
2011-01-01 00:00:00   a
2011-01-01 01:00:00   a
2011-01-01 02:00:00   b
2011-01-01 03:00:00   a

我想添加一个新列，告诉 "event" 列中的每个元素，该元素之前出现了多少次非连续次数。也就是说，像这样：

                    event #prev-occurr
2011-01-01 00:00:00   a        0
2011-01-01 01:00:00   a        0
2011-01-01 02:00:00   b        0
2011-01-01 03:00:00   a        1

Answer 1

我们还没有很好的 groupby 对连续组的支持，但我们可以使用 shift-compare-cumsum 模式，然后使用密集排名来获得你需要的东西，IIUC:

>>> egroup = (df["event"] != df["event"].shift()).cumsum()
>>> df["prev_occur"] = egroup.groupby(df["event"]).rank(method="dense") - 1
>>> df
                    event  prev_occur
2011-01-01 00:00:00     a           0
2011-01-01 01:00:00     a           0
2011-01-01 02:00:00     b           0
2011-01-01 03:00:00     a           1
2011-01-01 04:00:00     a           1
2011-01-01 05:00:00     b           1
2011-01-01 06:00:00     a           2

这是有效的，因为我们得到了一个连续的事件组计数：

>>> egroup
2011-01-01 00:00:00    1
2011-01-01 01:00:00    1
2011-01-01 02:00:00    2
2011-01-01 03:00:00    3
2011-01-01 04:00:00    3
2011-01-01 05:00:00    4
2011-01-01 06:00:00    5
Freq: H, Name: event, dtype: int64

然后我们可以按事件类型对其进行分组，得到非排名版本：

>>> for k,g in egroup.groupby(df["event"]):
...     print(g)
...     
2011-01-01 00:00:00    1
2011-01-01 01:00:00    1
2011-01-01 03:00:00    3
2011-01-01 04:00:00    3
2011-01-01 06:00:00    5
Name: event, dtype: int64
2011-01-01 02:00:00    2
2011-01-01 05:00:00    4
Name: event, dtype: int64

我们终于可以对其进行密集排名了。

使用 pandas 查找时间序列中的重复事件

Find recurring events in time series with pandas

python

time-series

pandas