Dense 层上的 Dropout

Question

在 Keras 中，当我们使用 input_dim 参数定义我们的第一个隐藏层，然后是一个 Dropout 层时，如下所示：

model.add(Dense(units = 16, activation = 'relu', kernel_initializer = 'random_uniform', input_dim = 5))
model.add(Dropout(0.2))

Dropout 应用于隐藏层还是输入层？如果它被应用于隐藏，我怎样才能同时应用于输入，反之亦然？

Answer 1

Dropout 应用于前一层的输出，因此在本例中应用于隐藏层。如果您想将其应用于输入，请添加一个 Dropout 层作为网络中的第一层。

Dropout on a Dense layer