Keras：在 mlp 中使用功能 api 的 Dropout

Question

我正在使用 keras 的 du functional api 并想在我的多层感知器中添加一个 dropout。

我必须将 dropout 放在层之前还是之后，我必须将下一层连接到 dropout 还是连接到上一层？

hidden_Layer_2 = Dense(152,activation='relu')(hidden_Layer_1)
dropout_2 = Dropout(0.4)(hidden_Layer_2)
hidden_Layer_3 = Dense(152, activation='relu')(hidden_Layer_2)

或

hidden_Layer_2 = Dense(152,activation='relu')(hidden_Layer_1)
dropout_2 = Dropout(0.4)(hidden_Layer_2)
hidden_Layer_3 = Dense(152, activation='relu')(dropout_2 )

Answer 1

第二个选项正确。您始终需要按照您要使用的顺序连接图层。

  hidden_Layer_2 = Dense(152,activation='relu')(hidden_Layer_1)
  dropout_2 = Dropout(0.4)(hidden_Layer_2)
  hidden_Layer_3 = Dense(152, activation='relu')(dropout_2 )