在推荐系统中使用矩阵分解
Using matrix factorization for a recommender system
我正在为餐厅开发一个推荐系统,使用 C# 6.0 中基于项目的协作过滤器。我想设置我的算法以尽可能好地执行,所以我研究了一些不同的方法来预测用户尚未评论的餐厅的评级。
先从我做过的研究说起
首先,我想使用用户之间的皮尔逊相关性来设置基于用户的协作过滤器,以便能够查看哪些用户非常适合。
这样做的主要问题是计算这种相关性所需的数据量。首先,您需要同一家餐厅的每 2 位用户 4 条评论。但是我的数据将非常稀疏。不可能有 2 位用户评论了完全相同的 4 家餐厅。我想通过扩大匹配项来解决这个问题(即不匹配同一餐厅的用户,而是同一类型餐厅的用户),但这给了我一个问题,即很难确定我将在相关性中使用哪些评论,因为用户可以在类型为 'Fast food' 的餐厅留下 3 条评论。以下哪项最符合其他用户对快餐店的评论?
经过更多研究后,我得出结论,基于项目的协作过滤器优于基于用户的协作过滤器。但是,我再次遇到了数据稀疏性问题。在我的测试中,我成功地能够计算出对用户尚未评论的餐厅评级的预测,但是当我在稀疏数据集上使用该算法时,结果还不够好。 (大多数时候,两家餐厅不可能有相似之处,因为没有 2 位用户对同一家餐厅进行过评分)。
经过更多研究,我发现使用矩阵分解方法对稀疏数据效果很好。
现在我的问题
我一直在网上寻找使用这种方法的教程,但我在推荐系统方面没有任何经验,而且我对代数的了解也很有限。我了解该方法的意义。您有一个矩阵,其中一侧是用户,另一侧是餐厅。每个单元格都是用户对餐厅的评分。
矩阵分解方法创建了两个矩阵,一个是用户和餐厅类型之间的权重,另一个是餐厅和这些类型之间的权重。
我只是想不通的是如何计算餐厅类型与 restaurants/users 之间的权重(如果我正确理解矩阵分解)。我找到了许多计算这些数字的公式,但我不知道如何分解它们并将它们应用到我的应用程序中。
我将举例说明数据在我的应用程序中的外观:
在这个 table 中,U1 代表用户,R1 代表餐厅。
每家餐厅都有自己的标签(餐厅类型)。 IE。 R1 有标签 'Italian',R2 有 'Fast food',等等
| R1 | R2 | R3 | R4 |
U1 | 3 | 1 | 2 | - |
U2 | - | 3 | 2 | 2 |
U3 | 5 | 4 | - | 4 |
U4 | - | - | 5 | - |
有没有人可以指出正确的方向或解释我应该如何对我的数据使用这种方法?任何帮助将不胜感激!
矩阵分解假设 "latent factors" 例如用户对意大利食物的偏好和项目食物的意大利性与矩阵中的评分有关。
所以整个问题变成了矩阵重建问题,存在很多不同的解决方案。一个简单但可能很慢的解决方案是(除了 ALS 和矩阵重建的其他一些可能性之外)使用梯度下降算法逼近矩阵。我推荐这篇短文ieee article about recommender systems。
提取潜在因素是一个不同的问题。
因此 GDM 的实现可能如下所示:
public void learnGDM(){
//traverse learnSet
for(int repeat = 0; repeat < this.steps; repeat++){
for (int i = 0; i < this.learnSet.length; i++){
for (int j = 0; j < this.learnSet[0].length; j++){
if(this.learnSet[i][j] > 0.0d){
double Rij = this.learnSet[i][j];
for(int f = 0 ; f <= latentFactors; f++){
double error = Rij - dotProduct(Q.getRow(i), P.getRow(j));/*estimated_Rij;*/
//ieee computer 1.pdf
double qif = Q.get(i, f);
double pif = P.get(j, f);
double Qvalue = qif + gradientGamma * (error * pif - gradientLambda * qif);
double Pvalue = pif + gradientGamma * (error * qif - gradientLambda * pif);
Q.set(i,f, Qvalue);
P.set(j, f, Pvalue);
}
}
}
}
//check global error
if(checkGlobalError() < 0.001d){
System.out.println("took" + repeat + "steps");
break;
}
}
学习集是一个二维数组,其中包含 IEEE 文章中的评级矩阵。 GDM 算法每次迭代都会稍微改变评级向量 P 和 Q,以便它们接近评级矩阵中的评级。然后 "not given" 评分可以通过 P 和 Q 的点积计算。未给出评分的最高估计将成为推荐。
这就是开始。有很多优化和其他算法或者GDM的修改版本也可以运行并行
一些不错的读物:
recommender systems in the Encyclopedia of Machine Learning
presentation on matrix factorization
recommender systems <--- 大个 ^^
我正在为餐厅开发一个推荐系统,使用 C# 6.0 中基于项目的协作过滤器。我想设置我的算法以尽可能好地执行,所以我研究了一些不同的方法来预测用户尚未评论的餐厅的评级。
先从我做过的研究说起
首先,我想使用用户之间的皮尔逊相关性来设置基于用户的协作过滤器,以便能够查看哪些用户非常适合。
这样做的主要问题是计算这种相关性所需的数据量。首先,您需要同一家餐厅的每 2 位用户 4 条评论。但是我的数据将非常稀疏。不可能有 2 位用户评论了完全相同的 4 家餐厅。我想通过扩大匹配项来解决这个问题(即不匹配同一餐厅的用户,而是同一类型餐厅的用户),但这给了我一个问题,即很难确定我将在相关性中使用哪些评论,因为用户可以在类型为 'Fast food' 的餐厅留下 3 条评论。以下哪项最符合其他用户对快餐店的评论?
经过更多研究后,我得出结论,基于项目的协作过滤器优于基于用户的协作过滤器。但是,我再次遇到了数据稀疏性问题。在我的测试中,我成功地能够计算出对用户尚未评论的餐厅评级的预测,但是当我在稀疏数据集上使用该算法时,结果还不够好。 (大多数时候,两家餐厅不可能有相似之处,因为没有 2 位用户对同一家餐厅进行过评分)。
经过更多研究,我发现使用矩阵分解方法对稀疏数据效果很好。
现在我的问题
我一直在网上寻找使用这种方法的教程,但我在推荐系统方面没有任何经验,而且我对代数的了解也很有限。我了解该方法的意义。您有一个矩阵,其中一侧是用户,另一侧是餐厅。每个单元格都是用户对餐厅的评分。
矩阵分解方法创建了两个矩阵,一个是用户和餐厅类型之间的权重,另一个是餐厅和这些类型之间的权重。
我只是想不通的是如何计算餐厅类型与 restaurants/users 之间的权重(如果我正确理解矩阵分解)。我找到了许多计算这些数字的公式,但我不知道如何分解它们并将它们应用到我的应用程序中。
我将举例说明数据在我的应用程序中的外观:
在这个 table 中,U1 代表用户,R1 代表餐厅。
每家餐厅都有自己的标签(餐厅类型)。 IE。 R1 有标签 'Italian',R2 有 'Fast food',等等
| R1 | R2 | R3 | R4 |
U1 | 3 | 1 | 2 | - |
U2 | - | 3 | 2 | 2 |
U3 | 5 | 4 | - | 4 |
U4 | - | - | 5 | - |
有没有人可以指出正确的方向或解释我应该如何对我的数据使用这种方法?任何帮助将不胜感激!
矩阵分解假设 "latent factors" 例如用户对意大利食物的偏好和项目食物的意大利性与矩阵中的评分有关。
所以整个问题变成了矩阵重建问题,存在很多不同的解决方案。一个简单但可能很慢的解决方案是(除了 ALS 和矩阵重建的其他一些可能性之外)使用梯度下降算法逼近矩阵。我推荐这篇短文ieee article about recommender systems。
提取潜在因素是一个不同的问题。
因此 GDM 的实现可能如下所示:
public void learnGDM(){
//traverse learnSet
for(int repeat = 0; repeat < this.steps; repeat++){
for (int i = 0; i < this.learnSet.length; i++){
for (int j = 0; j < this.learnSet[0].length; j++){
if(this.learnSet[i][j] > 0.0d){
double Rij = this.learnSet[i][j];
for(int f = 0 ; f <= latentFactors; f++){
double error = Rij - dotProduct(Q.getRow(i), P.getRow(j));/*estimated_Rij;*/
//ieee computer 1.pdf
double qif = Q.get(i, f);
double pif = P.get(j, f);
double Qvalue = qif + gradientGamma * (error * pif - gradientLambda * qif);
double Pvalue = pif + gradientGamma * (error * qif - gradientLambda * pif);
Q.set(i,f, Qvalue);
P.set(j, f, Pvalue);
}
}
}
}
//check global error
if(checkGlobalError() < 0.001d){
System.out.println("took" + repeat + "steps");
break;
}
}
学习集是一个二维数组,其中包含 IEEE 文章中的评级矩阵。 GDM 算法每次迭代都会稍微改变评级向量 P 和 Q,以便它们接近评级矩阵中的评级。然后 "not given" 评分可以通过 P 和 Q 的点积计算。未给出评分的最高估计将成为推荐。
这就是开始。有很多优化和其他算法或者GDM的修改版本也可以运行并行
一些不错的读物:
recommender systems in the Encyclopedia of Machine Learning
presentation on matrix factorization
recommender systems <--- 大个 ^^