当重复少于 n 次时从 numpy 数组中删除行

Question

当numpy数组重复少于n次时，从中删除行

原因：

我有一个大小为 1 GB 的特定数据集。它有 29.118.021 个样本和 108.390 类.

但是，有些类只有 1 个样本。或者3个样本，以此类推...

问题： 我想从 numpy 数组中删除 presented/repeated 少于 N 次的 rows/classes。

参考

尝试失败

train_x, train_y, test_x, test_id = loader.load()

n_samples = train_y.shape[0]
unique_labels, y_inversed = np.unique(train_y, return_inverse=True)
label_counts = bincount(y_inversed)
min_labels = np.min(label_counts)

print "Total Rows ", n_samples
print "unique_labels ", unique_labels.shape[0]
print "label_counts ", label_counts[:]
print "min labels ", min_labels

unique_labels = unique_labels.astype(np.uint8)
unique_amounts = np.empty(shape=unique_labels.shape, dtype=np.uint8)
for u in xrange(0, unique_labels.shape[0]):
    if u % 100 == 0:
        print "Processed ", str(u)
    for index in xrange(0, train_y.shape[0]):
        if train_y[index] == unique_labels[u]:
            unique_amounts[u] = unique_amounts[u] + 1

for k in xrange(0, unique_amounts.shape[0]):
    if unique_amounts[k] == 1:
        print "\n"
        print "value :", unique_amounts[k]
        print "at ", k

上面的代码太耗时了long.Even，我把它放在服务器上运行一整晚，它甚至没有进行到一半处理。

加载方式

这是我的加载方法。我可以加载它并将其保存为数据框。

def load():
    train = pd.read_csv('input/train.csv', index_col=False, header='infer')
    test = pd.read_csv('input/test.csv', index_col=False, header='infer')

    # drop useless columns
    train.drop('row_id', axis=1, inplace=True)

    acc = train["accuracy"].iloc[:].as_matrix()
    x = train["x"].iloc[:].as_matrix()
    y = train["y"].iloc[:].as_matrix()
    time = train["time"].iloc[:].as_matrix()
    train_y = train["place_id"].iloc[:].as_matrix()

    ####################################################################################
    acc = acc.reshape(-1, 1)
    x = x.reshape(-1, 1)
    y = y.reshape(-1, 1)
    time = time.reshape(-1, 1)
    train_y = train_y.reshape(-1, 1)

    ####################################################################################

    train_x = np.hstack((acc, x, y, time))

    ####################################################################################

    acc = test["accuracy"].iloc[:].as_matrix()
    x = test["x"].iloc[:].as_matrix()
    y = test["y"].iloc[:].as_matrix()
    time = test["time"].iloc[:].as_matrix()
    test_id = test['row_id'].iloc[:].as_matrix()

    #######################
    acc = acc.reshape(-1, 1)
    x = x.reshape(-1, 1)
    y = y.reshape(-1, 1)
    time = time.reshape(-1, 1)
    #######################

    test_x = np.hstack((acc, x, y, time))

    return train_x, train_y, test_x, test_id

Answer 1

我会将您的数据保存为数据帧格式。这样，您就可以使用 pandas 模块中的一些有用方法，这应该比循环更快。

首先，获取与 df 和 df['labels'].value_counts() 关联的不同标签。（我假设标签列名称是 'labels'）。

然后，仅获取数据框中少于 n_min 行的标签。

vc = df['labels'].value_counts()
labels = vc[vc < n_min].index
df.drop(labels, inplace=True)

希望对您有所帮助！

Answer 2

numpy_indexed 包（免责声明：我是它的作者）包含一个多重函数，这导致了执行此类操作的一种非常可读的方式：

import numpy_indexed as npi
samples_mask = npi.multiplicity(train_y) >= n_min
filtered_train_y = train_y[samples_mask]

当重复少于 n 次时从 numpy 数组中删除行

Remove rows from numpy array when its repeated less than n times

python

arrays

numpy

scikit-learn

cross-validation