将用户/项目视图数据转换为 2D 指标
convert user / item view data into 2D metrics
用户/项目视图数据可用如下
User Item
Louis 1
Louis 2
Adam 1
Adam 3
我想将其转换为一个项目一个项目指标,如
1 2 3
1 0 1 1
2 1 0 0
3 1 0 0
因此每个值代表 "number of person who viewed i also viewed j"。 (对角线值无关紧要)
有什么有效的方法吗?
下面是我的代码,但是当有大约 50k 个项目和 500k 个查看记录时 运行 花了很长时间。
import pandas as pd
import numpy as np
from scipy.sparse import csr_matrix, lil_matrix
raw = pd.DataFrame(columns=['user','item'])
raw['user']=['Louis','Louis','Adam','Adam']
raw['item']=[1,2,1,3]
item_list = raw.item.unique().tolist()
user_list = raw.user.unique().tolist()
m = lil_matrix((len(raw.item.unique()),len(raw.item.unique())))
for user in user_list:
temp = raw.loc[np.in1d(raw['user'], user)].item
if len(temp) > 1:
for idx1, id1 in enumerate(temp[0:-1]):
for id2 in temp[idx1+1:]:
m[item_list.index(id1),item_list.index(id2)]+=1
m[item_list.index(id2),item_list.index(id1)]+=1
m.toarray()
你可以使用
In [147]: dff = pd.crosstab(df.Item, df.User)
In [148]: dff = dff.dot(dff.T)
In [149]: np.fill_diagonal(dff.values, 0)
In [150]: dff
Out[150]:
Item 1 2 3
Item
1 0 1 1
2 1 0 0
3 1 0 0
用户/项目视图数据可用如下
User Item
Louis 1
Louis 2
Adam 1
Adam 3
我想将其转换为一个项目一个项目指标,如
1 2 3
1 0 1 1
2 1 0 0
3 1 0 0
因此每个值代表 "number of person who viewed i also viewed j"。 (对角线值无关紧要)
有什么有效的方法吗?
下面是我的代码,但是当有大约 50k 个项目和 500k 个查看记录时 运行 花了很长时间。
import pandas as pd
import numpy as np
from scipy.sparse import csr_matrix, lil_matrix
raw = pd.DataFrame(columns=['user','item'])
raw['user']=['Louis','Louis','Adam','Adam']
raw['item']=[1,2,1,3]
item_list = raw.item.unique().tolist()
user_list = raw.user.unique().tolist()
m = lil_matrix((len(raw.item.unique()),len(raw.item.unique())))
for user in user_list:
temp = raw.loc[np.in1d(raw['user'], user)].item
if len(temp) > 1:
for idx1, id1 in enumerate(temp[0:-1]):
for id2 in temp[idx1+1:]:
m[item_list.index(id1),item_list.index(id2)]+=1
m[item_list.index(id2),item_list.index(id1)]+=1
m.toarray()
你可以使用
In [147]: dff = pd.crosstab(df.Item, df.User)
In [148]: dff = dff.dot(dff.T)
In [149]: np.fill_diagonal(dff.values, 0)
In [150]: dff
Out[150]:
Item 1 2 3
Item
1 0 1 1
2 1 0 0
3 1 0 0