过去一小时内键值对流中的前 10 个
Top 10 in a stream of key value pairs in the last one hour
假设有一个带有时间戳的键值对流,我们想找到在过去一小时内具有最高值的前 10 个键。 (过去一小时内的键值是该特定键的所有流式传输值的总和)。
我尝试并提出了一个看起来像这样的解决方案:http://www.geeksforgeeks.org/median-of-stream-of-integers-running-integers/。但是我无法在不花费大量时间复杂性的情况下将时间带入画面。任何想法表示赞赏。
要获得精确的在线算法,您将需要所有内容的多个副本。您需要按值跟踪排序数据结构(如红黑树)中的键。您需要按键跟踪任何快速键查找中的值 - 哈希将起作用。你需要某种 event-loop/queue 的观察,这样你就可以删除一个多小时前的东西。
这样,您添加观察的过程如下所示:
- 删除当前要删除的任何观察结果。 (稍后会详细介绍如何执行此操作。)
- 将观察添加到要删除的队列中,并添加时间戳以将其删除。
- 通过key,通过key在value的hash中找到当前总值。
- 通过value+key,找到平衡二叉树中的表项,并去掉
- 通过key更新value散列中的当前总值。
- 通过键将新值插入值的散列中。
要找到前 10 名,您需要遵循类似的路径。
- 删除当前要删除的任何观察结果。 (稍后会详细介绍如何执行此操作。)
- 在平衡二叉树中查找前 10 个观察值。
并删除当前要删除的观察结果,而要删除队列中的顶部元素已超过一小时:
- 从删除队列中弹出 key/value 对。
- 通过key在total value的hash中找到value。
- 从平衡二叉树中删除值。
- 通过key更新总值散列中的总值。
- 将新的 value/key 插入平衡二进制密钥。
好的,那么费用和时间是多少?
我们保留每个观察结果的 3 个副本。一些具有开销的复杂数据结构。因此,对于最后一小时的事件,我们可能使用了 space 的 5 倍。每个观察有很多操作,但它们都是对数的。事实上,每次观察的总工作量与 O(log(n))
一样,既可以保持数据结构最新,也可以返回前 10 个。
现在,如果开销变得太多,简单的解决方案是使其近似。有大量的近似算法,但最简单的方法是使数据结构中的内容是随机的。例如,您可以说任何值高于 100 的东西都以其值的 1% 包含在内,而任何值低于 100 的东西都将其值作为被包含的百分比。然后将最终答案乘以 100。如果平均值在 1-10 范围内,则 O(1)
过滤器只是删除了 90-99%
所需的数据存储和工作。但是你会有大概的答案,应该没问题。
假设有一个带有时间戳的键值对流,我们想找到在过去一小时内具有最高值的前 10 个键。 (过去一小时内的键值是该特定键的所有流式传输值的总和)。
我尝试并提出了一个看起来像这样的解决方案:http://www.geeksforgeeks.org/median-of-stream-of-integers-running-integers/。但是我无法在不花费大量时间复杂性的情况下将时间带入画面。任何想法表示赞赏。
要获得精确的在线算法,您将需要所有内容的多个副本。您需要按值跟踪排序数据结构(如红黑树)中的键。您需要按键跟踪任何快速键查找中的值 - 哈希将起作用。你需要某种 event-loop/queue 的观察,这样你就可以删除一个多小时前的东西。
这样,您添加观察的过程如下所示:
- 删除当前要删除的任何观察结果。 (稍后会详细介绍如何执行此操作。)
- 将观察添加到要删除的队列中,并添加时间戳以将其删除。
- 通过key,通过key在value的hash中找到当前总值。
- 通过value+key,找到平衡二叉树中的表项,并去掉
- 通过key更新value散列中的当前总值。
- 通过键将新值插入值的散列中。
要找到前 10 名,您需要遵循类似的路径。
- 删除当前要删除的任何观察结果。 (稍后会详细介绍如何执行此操作。)
- 在平衡二叉树中查找前 10 个观察值。
并删除当前要删除的观察结果,而要删除队列中的顶部元素已超过一小时:
- 从删除队列中弹出 key/value 对。
- 通过key在total value的hash中找到value。
- 从平衡二叉树中删除值。
- 通过key更新总值散列中的总值。
- 将新的 value/key 插入平衡二进制密钥。
好的,那么费用和时间是多少?
我们保留每个观察结果的 3 个副本。一些具有开销的复杂数据结构。因此,对于最后一小时的事件,我们可能使用了 space 的 5 倍。每个观察有很多操作,但它们都是对数的。事实上,每次观察的总工作量与 O(log(n))
一样,既可以保持数据结构最新,也可以返回前 10 个。
现在,如果开销变得太多,简单的解决方案是使其近似。有大量的近似算法,但最简单的方法是使数据结构中的内容是随机的。例如,您可以说任何值高于 100 的东西都以其值的 1% 包含在内,而任何值低于 100 的东西都将其值作为被包含的百分比。然后将最终答案乘以 100。如果平均值在 1-10 范围内,则 O(1)
过滤器只是删除了 90-99%
所需的数据存储和工作。但是你会有大概的答案,应该没问题。