反向传播是如何工作的?
How does backpropagation work?
我在论文上创建了我的第一个简单的神经网络。它有 5 个输入(数据 - 从 0.0 到 10.0 的浮点数)和一个输出。没有隐藏层。例如,一开始我的权重 = [0.2, 0.2, 0.15, 0.15, 0.3]。结果应在输入数据 (0.0 - 10.0) 的范围内。例如当权利为 8.5 时网络返回 8。反向传播如何改变权重?我知道 grad.descent 是如何工作的,但我不明白我应该如何选择偏导数的参数。请帮助。如果您需要,我可以详细说明。如果你建议一些文学作品(如果可能的话用简单的英语)。
如果你先从1开始,然后分别继续2和3。我相信您将能够对神经网络的工作原理有相当深刻的理解。
- Andrew Ng 的 Coursera 视频,尤其是 Lecture 9.1, Lecture 9.2, Lecture 9.4 和其他视频。
- Tom Michell's Machine Learning book's第四章
- Raul Rojas 的 Neural Networks, a Systematic Introduction,第 4、6 和 7 章。虽然很长,但很容易理解。这也是一本非常漂亮和完整的书(也可以从作者的网站免费获得)。
从了解一个感知器是如何学习的开始(这就是您所做的)是很重要的。做到这一点,其他的就不难了。
我在论文上创建了我的第一个简单的神经网络。它有 5 个输入(数据 - 从 0.0 到 10.0 的浮点数)和一个输出。没有隐藏层。例如,一开始我的权重 = [0.2, 0.2, 0.15, 0.15, 0.3]。结果应在输入数据 (0.0 - 10.0) 的范围内。例如当权利为 8.5 时网络返回 8。反向传播如何改变权重?我知道 grad.descent 是如何工作的,但我不明白我应该如何选择偏导数的参数。请帮助。如果您需要,我可以详细说明。如果你建议一些文学作品(如果可能的话用简单的英语)。
如果你先从1开始,然后分别继续2和3。我相信您将能够对神经网络的工作原理有相当深刻的理解。
- Andrew Ng 的 Coursera 视频,尤其是 Lecture 9.1, Lecture 9.2, Lecture 9.4 和其他视频。
- Tom Michell's Machine Learning book's第四章
- Raul Rojas 的 Neural Networks, a Systematic Introduction,第 4、6 和 7 章。虽然很长,但很容易理解。这也是一本非常漂亮和完整的书(也可以从作者的网站免费获得)。
从了解一个感知器是如何学习的开始(这就是您所做的)是很重要的。做到这一点,其他的就不难了。