提高 python 针对嵌套列表中的 ID 循环计数项目的效率

Question

我正在尝试提高脚本的效率，该脚本采用表示数据 table 的嵌套列表，其中包含一列 ID（每个 ID 可能有很多条目）。该脚本统计超过100个条目和超过200个条目的ID数量。

有没有一种方法可以让我不必每次都在列表理解中循环列表？

list_of_IDs = [row[4] for row in massive_nested_list] ### get list of ID numbers
list_of_IDs = set(list_of_IDs) ### remove duplicates
list_of_IDs = list(list_of_IDs)
counter200 = 0
counter100 = 0
for my_ID in list_of_IDs:
    temp = [row for row in massive_nested_list if row[4] == my_ID]
    if len(temp) > 200:
        counter200 += 1
    if len(temp) > 100:
        counter100 += 1

Answer 1

使用 collections.Counter() instance 来计算您的 ID。无需先收集所有可能的 ID。然后您可以从那里整理计数：

from collections import Counter

counts = Counter(row[4] for row in massive_nested_list)
counter100 = counter200 = 0
for id, count in counts.most_common():
    if count >= 200:
        counter200 += 1
    elif count >= 100:
        counter100 += 1
    else:
        break

给定 N 个嵌套列表中的 K 个唯一 ID，您的代码将需要 O(KN) 次循环来计算所有内容；最坏情况 (K == N) 这意味着您的解决方案需要二次时间（对于每增加一行，您需要做 N 倍的工作）。上面的代码减少了这个没有 one 循环 N 项，然后另一个循环 K 项，使其成为 O(N)（线性）算法。

Answer 2

最简单的方法是：

temp100 = [row for row in massive_nested_list if row[4] == my_ID and row >= 100 and row < 200]
temp200 = [row for row in massive_nested_list if row[4] == my_ID and row >= 200]

那你可以去:

len(temp200)

或

counter200 = len(temp200)

提高 python 针对嵌套列表中的 ID 循环计数项目的效率

Improve efficiency of python for loop counting items against IDs in nested list

python

for-loop

list-comprehension

list