高偏差或方差? - SVM 和奇怪的学习曲线

High bias or variance? - SVM and weired learning curves

我从未见过这样的学习曲线。我是对的,发生了巨大的过度拟合吗?该模型越来越适合训练数据,而它对测试数据的泛化能力越来越差。

通常当方差很大时,就像这里一样,更多的例子应该会有所帮助。在这种情况下,我怀疑他们不会。这是为什么?为什么在 literature/tutorials 中不容易找到这样的学习曲线示例?

Learning curves. SVM, param1 is C, param2 is gamma

你必须记住,SVM 是非参数模型,因此更多的样本不一定要减少方差。参数化模型(如神经网络)可以或多或少地保证方差的减少,但 SVM 不是其中之一 - 更多样本不仅意味着更好的训练数据,而且 更复杂的模型 。您的学习曲线是 SVM 过度拟合的典型示例,这种情况在 RBF 内核中经常发生。