多层神经网络——训练过程

Question

我正在构建一个多层神经网络。我对培训过程有疑问，我有一组具有所需输出的培训数据。我正在使用反向传播算法来更新连接权重。

网络应该单独训练训练数据吗？ 例如：网络接受 1 个输入，只要它找到适当的连接权重，使实际输出等于期望输出；网络接受另一个训练输入。

这是正确的吗？

Answer 1

不，无论实际输出是否等于目标输出，反向传播算法都应该移动到训练集的下一个元素。 然后它会在一定数量的训练案例通过后更新 weights/parameters，这由指定的批大小决定。 并且对于通过的每次训练迭代，平均总误差通常应低于前一次迭代。