LS-SVM 的稀疏输入
Sparse input for LS-SVM
我正在尝试使用深度神经网络 (DNN) 的功能来训练 Lease Squared SVM。求解 LS-SVM 的标准程序是对核矩阵求逆。然而，DNN 的特征核矩阵不是满秩的。有谁知道如何在不丢失太多信息的情况下将这个稀疏矩阵转换为满秩矩阵？ PCA 是减少输入维度并使其密集的良好候选解决方案吗？
你好像把事情搞糊涂了。核矩阵是成对点积的矩阵，这些不是特征。如果你的特征矩阵 F 是稀疏的且大小为 N x H，那么你的核矩阵（在此 space 之上使用线性核）很简单：
K = F F'
是N×N，而且是稠密的，所以应用任何一种SVM都没有问题。
我正在尝试使用深度神经网络 (DNN) 的功能来训练 Lease Squared SVM。求解 LS-SVM 的标准程序是对核矩阵求逆。然而，DNN 的特征核矩阵不是满秩的。有谁知道如何在不丢失太多信息的情况下将这个稀疏矩阵转换为满秩矩阵？ PCA 是减少输入维度并使其密集的良好候选解决方案吗？
你好像把事情搞糊涂了。核矩阵是成对点积的矩阵，这些不是特征。如果你的特征矩阵 F 是稀疏的且大小为 N x H，那么你的核矩阵（在此 space 之上使用线性核）很简单：
K = F F'
是N×N，而且是稠密的，所以应用任何一种SVM都没有问题。