为什么神经网络中只有一个隐藏层?

Why is there only one hidden layer in a neural network?

我最近做了我的第一个神经网络模拟,它也使用了遗传进化算法。它是一种简单的软件,只是模拟简单的生物体收集食物,正如人们所期望的那样,它们从具有随机和零星运动的生物体进化为具有受控的、寻找食物运动的生物体。由于这种生物体非常简单,我只使用了几个隐藏层神经元和几个输入输出神经元。我知道可以通过简单地添加更多神经元来构建更复杂的神经网络,但是您不能添加更多层吗?或者这会造成某种冗余吗?所有神经网络图的图片,比如这张http://mechanicalforex.com/wp-content/uploads/2011/06/NN.png,总是有一层输入层,一层隐藏层,一层输出层。如果只是添加一堆隐藏层,就不能构建更复杂的神经网络吗?当然,这会使神经网络的处理变得更加困难,但它会产生任何优势吗,或者它是否与向单层添加更多神经元一样?

您可以包含任意数量的隐藏层,从零开始(--这种情况称为 感知器)。

但是,表示未知函数的能力原则上并没有增加。单隐藏层神经网络已经拥有 universal representation 属性:通过增加隐藏神经元的数量,它们可以拟合(几乎)任意函数。你不能得到更多。尤其不是通过添加更多层。

然而,这并不意味着多隐藏层 ANN 在实践中 没有用处。然而,当您在参数集中获得另一个维度时,人们通常会坚持使用单隐藏层版本。