局部线性嵌入中如何处理奇异矩阵?
How to deal with singular matrix in Local linear embedding?
我在使用方程
求解局部权重时遇到奇异矩阵误差
Ci*Wi = 1
其中 Ci 是从点 i 的邻居构造的局部协方差矩阵,wi 是从其邻居构造点 i 所需的权重向量。
我正在使用 IRIS 数据集,邻居数是 20。
对于来这里寻找答案的人。
出现这个问题是因为权重只集中在少数成员身上。很少有邻居贡献很大,而其他邻居贡献为零。
添加一个正则项来惩罚较大的权重。如果你的协方差矩阵是C,正则化值为0.0005,I是一个和C同阶的单位矩阵,用下面的公式更新C
C = C + 0.0005*I(n)
我在使用方程
求解局部权重时遇到奇异矩阵误差Ci*Wi = 1
其中 Ci 是从点 i 的邻居构造的局部协方差矩阵,wi 是从其邻居构造点 i 所需的权重向量。
我正在使用 IRIS 数据集,邻居数是 20。
对于来这里寻找答案的人。
出现这个问题是因为权重只集中在少数成员身上。很少有邻居贡献很大,而其他邻居贡献为零。
添加一个正则项来惩罚较大的权重。如果你的协方差矩阵是C,正则化值为0.0005,I是一个和C同阶的单位矩阵,用下面的公式更新C
C = C + 0.0005*I(n)