写论文时如何判断cnn的准确率

Question

我想写一篇关于卷积神经网络的论文，我的cnn模型验证数据集的准确率在98到99之间波动，测试数据集的准确率每次都不一样。所以我不确定应该在哪个时间写准确率，实验中的epochs总数是6000次。我是否可以选择最后一个epoch中10个epoch中精度最高的作为论文的精度，或者我应该怎么做？非常感谢！

Answer 1

10 个测量值不足以推导具有显着 属性 的静态属性...您可以列出所有 10 个或给出 low、 high、avg 和 median，这些应该足以收缩您的网络 acc 并将其与其他网络进行比较

Answer 2

我也遇到了同样的问题。这些是我一直在使用的方法：

定期降低学习率

定期降低学习率不仅可以提高验证准确性，还可以降低训练结束时的准确性方差。

比如学习率除以5

Epochs        Learning rate
0-4000        5e-4
4000-5000     1e-4
5000-6000     2e-5
etc

您也可以自动监控。例如，如果最后 N 个批次的损失没有显着减少，则降低学习率并重新开始计数。 M这样减少后，停止训练。

重复实验

您获得的准确性将取决于创建网络时分配的初始随机权重。因此，即使使用学习率降低，您仍然会得到不同的结果。重复实验并取平均值。这需要很长时间，具体取决于您的数据集。