Graphlab Sframe，检索多行

Question

我正在尝试从 graphlab SFrame 访问多行并将它们转换为 numpy 数组。

我有一个包含 96000 行和 4096 列的数据库 fd，需要检索存储在 numpy 数组中的行号。我想出的方法很慢。我怀疑这是因为我在每次迭代中都不断增加 sframe 的大小，但我不知道是否有任何预分配值的方法。我需要抓取 20000 行，但当前方法没有完成。

fd=fd.add_row_number()
print(indexes)
xs=fd[fd['id'] == indexes[0]] #create the first entry

t=time.time()
for i in indexes[1:]: #Parse through and get indeces
    t=time.time()
    xtemp=fd[fd['id'] == i]
    xs=xs.append(xtemp) #append the new row to the existing sframe
    print(time.time()-t)

xs.remove_column('id') #remove the ID Column
print(time.time()-t)
x_sub=xs.to_numpy() #Convert the sframe to numpy

Answer 1

您可以将 SFrame 转换为 pandas.DataFrame，从 indexes 中查找具有 ID 的行，删除 DataFrame 的列 'id' 并将此 DataFrame 转换为 numpy.ndarray .

例如：

import numpy as np

fd=fd.add_row_number()
df = fd.to_dataframe()
df_indexes = df[df.id.isin(indexes)]
df_indexes = df_indexes.drop(labels='id', axis=1)
x_sub = np.array(df_indexes)

Graphlab Sframe，检索多行

Graphlab Sframe, retrieve multiple rows

python

numpy

machine-learning

graphlab

sframe