每个节点需要多少个突触?
How many synapses per node do I need?
我想实现一个感知器网络,但遇到了一个小问题。第一个实现将非常简单。只有三层,输入层,一层隐藏层和输出层。我的问题是,对于输入层和隐藏层之间的隐藏节点,有多少突触是最佳的?如果每个节点都加入每个输入节点,我认为不太经济。
感谢评论。
在非常一般的设置中,您将给定层的每个节点都插入到下一层中的每个节点。这叫做"fully connected layer"。显然这不是唯一的选择,使用更高级的方法你会发现更稀疏的连接体,如感受野、卷积层等。对于简单的实验,从完全连接的层开始是更可取的,因为其他连接策略通常假设一些关于您的数据(如输入的时空关系),而全连接层是不可知的通用方法。
我想实现一个感知器网络,但遇到了一个小问题。第一个实现将非常简单。只有三层,输入层,一层隐藏层和输出层。我的问题是,对于输入层和隐藏层之间的隐藏节点,有多少突触是最佳的?如果每个节点都加入每个输入节点,我认为不太经济。
感谢评论。
在非常一般的设置中,您将给定层的每个节点都插入到下一层中的每个节点。这叫做"fully connected layer"。显然这不是唯一的选择,使用更高级的方法你会发现更稀疏的连接体,如感受野、卷积层等。对于简单的实验,从完全连接的层开始是更可取的,因为其他连接策略通常假设一些关于您的数据(如输入的时空关系),而全连接层是不可知的通用方法。