α-LMS算法挫折问题
α-LMS algorithm setback issue
我正在使用 α-LMS 算法为 MNIST 数据集制作分类器。
我仅在预测输出与所需输出不匹配时才更新权重，这是更新权重的方式：
我希望在每次迭代中残差下降（准确率上升）（我不应该吗？）。
尽管总体准确度似乎在上升，但在某些迭代中算法会倒退。
我想知道在这个算法中发生挫折是否正常，如果是为什么会这样？
如果数据可以用公式来表示，那么找到那个公式就是可行的。
当需要算法时（没有公式），收敛速度和准确性在很大程度上取决于数据。如果您能够使用多个数据集，您会看到不同的图表。
我正在使用 α-LMS 算法为 MNIST 数据集制作分类器。
我仅在预测输出与所需输出不匹配时才更新权重，这是更新权重的方式：
我希望在每次迭代中残差下降（准确率上升）（我不应该吗？）。
尽管总体准确度似乎在上升，但在某些迭代中算法会倒退。
我想知道在这个算法中发生挫折是否正常，如果是为什么会这样？
如果数据可以用公式来表示，那么找到那个公式就是可行的。 当需要算法时（没有公式），收敛速度和准确性在很大程度上取决于数据。如果您能够使用多个数据集，您会看到不同的图表。