验证损失突然飙升

Question

所以我正在对一个小数据集进行二进制图像class化，每个class包含250个图像，我正在使用迁移学习Resnet50 作为基础网络架构，在它上面我添加了 2 个隐藏层和一个最终输出层，经过 20 个时期的训练后，我看到的是损失在初始时期突然增加，我无法理解背后的原因。

网络架构 -

image_input = Input(shape=(224, 224, 3))
model = ResNet50(input_tensor=image_input,include_top=True, weights='imagenet')
last_layer = model.get_layer('avg_pool').output
x = Flatten(name='flatten')(last_layer)
x = Dense(1000, activation='relu', name='fc1000')(x)
x = Dropout(0.5)(x)
x = Dense(200, activation='relu', name='fc200')(x)
x = Dropout(0.5)(x)
out = Dense(num_classes, activation='softmax', name='output')(x)
custom_model = Model(image_input, out)

我正在使用带有默认参数的 binary_crossentropy、Adam

亏损 -

准确度 -

Answer 1

对于如此小的 class 数据，肯定存在过度拟合的可能性，请增加您的数据集大小，并在可能的情况下使用数据扩充进行检查

验证损失突然飙升

Sudden spike in validation loss

python

keras

conv-neural-network

resnet