在 Keras 中将循环层与致密层合并

Question

我想构建一个神经网络，其中前两层是前馈层，最后一层是循环层。这是我的代码：

model = Sequential()
model.add(Dense(150, input_dim=23,init='normal',activation='relu'))
model.add(Dense(80,activation='relu',init='normal'))
model.add(SimpleRNN(2,init='normal')) 
adam =OP.Adam(lr=0.001, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss="mean_squared_error", optimizer="rmsprop")

我收到这个错误：

Exception: Input 0 is incompatible with layer simplernn_11: expected  ndim=3, found ndim=2.
model.compile(loss='mse', optimizer=adam)

Answer 1

在 Keras 中，您不能将 Recurrent 层放在 Dense 层之后，因为 Dense 层的输出为 (nb_samples, output_dim)。但是，循环层期望输入为 (nb_samples、time_steps、input_dim)。因此，Dense 层提供 2-D 输出，而 Recurrent 层需要 3-D 输入。但是，您可以反过来，即在循环层之后放置一个密集层。

Answer 2

在 Keras 中，RNN 层期望输入为 (nb_samples, time_steps, input_dim) 是正确的。然而，如果你想在 Dense 层之后添加 RNN 层，你仍然可以在重塑 RNN 层的输入后这样做。 Reshape 既可以用作顺序模型中的第一层，也可以用作中间层。举例如下：

重塑为顺序模型中的第一层

model = Sequential()
model.add(Reshape((3, 4), input_shape=(12,)))
# now: model.output_shape == (None, 3, 4)
# note: `None` is the batch dimension

重塑为顺序模型中的中间层

model.add(Reshape((6, 2)))
# now: model.output_shape == (None, 6, 2)

例如，如果您按以下方式更改代码，则不会出现错误。我已经检查过它并且编译的模型没有报告任何错误。您可以根据需要更改尺寸。

from keras.models import Sequential
from keras.layers import Dense, SimpleRNN, Reshape
from keras.optimizers import Adam

model = Sequential()
model.add(Dense(150, input_dim=23,init='normal',activation='relu'))
model.add(Dense(80,activation='relu',init='normal'))
model.add(Reshape((1, 80)))
model.add(SimpleRNN(2,init='normal')) 
adam = Adam(lr=0.001, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss="mean_squared_error", optimizer="rmsprop")

在 Keras 中将循环层与致密层合并

merging recurrent layers with dense layer in Keras

python

machine-learning

tensorflow

theano

keras