Keras 层之间的自定义连接

Question

我想使用带有 Python 的 keras 手动定义层与层之间的神经网络连接。默认情况下，连接在所有神经元对之间。我需要如下图所示进行连接。

如何在 Keras 中完成？

Answer 1

您可以使用函数 API 模型并将四个不同的组分开：

from keras.models import Model
from keras.layers import Dense, Input, Concatenate, Lambda

inputTensor = Input((8,))

首先，我们可以使用 lambda 层将此输入一分为四：

group1 = Lambda(lambda x: x[:,:2], output_shape=((2,)))(inputTensor)
group2 = Lambda(lambda x: x[:,2:4], output_shape=((2,)))(inputTensor)
group3 = Lambda(lambda x: x[:,4:6], output_shape=((2,)))(inputTensor)
group4 = Lambda(lambda x: x[:,6:], output_shape=((2,)))(inputTensor)

现在我们关注网络：

#second layer in your image
group1 = Dense(1)(group1)
group2 = Dense(1)(group2)
group3 = Dense(1)(group3)   
group4 = Dense(1)(group4)

在我们连接最后一层之前，我们连接上面的四个张量：

outputTensor = Concatenate()([group1,group2,group3,group4])

终于到了最后一层：

outputTensor = Dense(2)(outputTensor)

#create the model:
model = Model(inputTensor,outputTensor)

当心偏见。如果您希望任何这些层没有偏差，请使用 use_bias=False。

旧答案：向后

抱歉，我第一次回答时看到你的图片倒过来了。我把它放在这里只是因为它已经完成了...

from keras.models import Model
from keras.layers import Dense, Input, Concatenate

inputTensor = Input((2,))

#four groups of layers, all of them taking the same input tensor
group1 = Dense(1)(inputTensor)
group2 = Dense(1)(inputTensor)
group3 = Dense(1)(inputTensor)   
group4 = Dense(1)(inputTensor)

#the next layer in each group takes the output of the previous layers
group1 = Dense(2)(group1)
group2 = Dense(2)(group2)
group3 = Dense(2)(group3)
group4 = Dense(2)(group4)

#now we join the results in a single tensor again:
outputTensor = Concatenate()([group1,group2,group3,group4])

#create the model:
model = Model(inputTensor,outputTensor)

Keras 层之间的自定义连接

Custom connections between layers Keras

python

neural-network

keras

keras-layer