感知器学习 - 权重更新中的输入直觉

Question

我一直在努力自学如何创建感知器，而且我基本上都学得很好。到目前为止我遇到的唯一问题是理解输入存在背后的直觉是什么在感知器的权重更新中：

权重变化=学习率*误差*输入

我一直在关注 this link，但它并没有解释它的存在，Neural Network Programming with Java 一书也没有解释。我相信理由很简单，但我想不通。感谢您的帮助 - 谢谢！

编辑：我的初步解释是进入权重的输入被用在产品中，因为它决定了它对整个感知器的重要性，与其他输入相比

Answer 1

这与输入的 "importance" 无关，但在某种程度上可以这样解释。它只是直接从函数的 gradient 的分析得出。区分你的成本函数，你最终会得到输入信号作为导数的一部分。为什么它在那里？因为导数取决于它，所以主要取决于方向（因此 - 输入的符号）。