使用同一图表显示 TensorFlow 中的训练和验证准确性

Question

我有一个TensorFlow模型，这个模型的一部分评估了准确性。 accuracy 只是张量流图中的另一个节点，它包含 logits 和 labels.

当我想绘制训练精度时，这很简单：我有类似的东西：

tf.scalar_summary("Training Accuracy", accuracy)
tf.scalar_summary("SomethingElse", foo)
summary_op = tf.merge_all_summaries()
writer = tf.train.SummaryWriter('/me/mydir/', graph=sess.graph)

然后，在我的训练循环中，我有类似的东西：

for n in xrange(1000):
  ...
  summary, ..., ... = sess.run([summary_op, ..., ...], feed_dict)
  writer.add_summary(summary, n)
  ...

同样在 for 循环中，每次迭代 100 次，我想评估 validation 的准确性。为此，我有一个单独的 feed_dict，并且我能够在 python 中很好地评估验证准确性。

但是，这是我的问题：我想通过使用 accuracy 节点为验证准确性制作另一个摘要。我不清楚如何做到这一点。因为我有 accuracy 节点，所以我应该能够重新使用它是有道理的，但我不确定如何准确地做到这一点，这样我也可以将验证准确性写成单独的 scalar_summary...

这怎么可能？

Answer 1

您可以重复使用准确性节点，但您需要使用两种不同的 SummaryWriters，一种用于训练运行s，另一种用于测试数据。您还必须将标量摘要分配给变量以确保准确性。

accuracy_summary = tf.scalar_summary("Training Accuracy", accuracy)
tf.scalar_summary("SomethingElse", foo)
summary_op = tf.merge_all_summaries()
summaries_dir = '/me/mydir/'
train_writer = tf.train.SummaryWriter(summaries_dir + '/train', sess.graph)
test_writer = tf.train.SummaryWriter(summaries_dir + '/test')

然后在你的训练循环中你有正常的训练并用 train_writer 记录你的总结。此外，您运行每 100 次迭代测试集上的图表，并仅记录带有 test_writer.

的准确度摘要

# Record train set summaries, and train
summary, _ = sess.run([summary_op, train_step], feed_dict=...)
train_writer.add_summary(summary, n)
if n % 100 == 0:  # Record summaries and test-set accuracy
  summary, acc = sess.run([accuracy_summary, accuracy], feed_dict=...)
  test_writer.add_summary(summary, n)
  print('Accuracy at step %s: %s' % (n, acc))

然后您可以将 TensorBoard 指向父目录 (summaries_dir)，它将加载两个数据集。

这也可以在 TensorFlow HowTo 中找到 https://www.tensorflow.org/versions/r0.11/how_tos/summaries_and_tensorboard/index.html

Answer 2

要运行相同的操作但得到具有不同feed_dict数据的摘要，只需将两个摘要操作附加到该操作。假设您想对验证数据和测试数据进行运行准确性运算，并希望获得两者的摘要：

validation_acc_summary = tf.summary.scalar('validation_accuracy', accuracy)  # intended to run on validation set
test_acc_summary = tf.summary.scalar('test_accuracy', accuracy)  # intended to run on test set
with tf.Session() as sess:
    # do your thing
    # ...
    # accuracy op just needs labels y_ and input x to compute logits 
    validation_summary_str = sess.run(validation_acc_summary, feed_dict=feed_dict={x: mnist.validation.images,y_: mnist.validation.labels})
    test_summary_str = sess.run(test_acc_summary, feed_dict={x: mnist.test.images,y_: mnist.test.labels})

    # assuming you have a tf.summary.FileWriter setup
    file_writer.add_summary(validation_summary_str)
    file_writer.add_summary(test_summary_str)

另外请记住，您始终可以像一样从 protobuff summary_str 中提取原始（标量）数据并进行自己的日志记录。

使用同一图表显示 TensorFlow 中的训练和验证准确性

Show training and validation accuracy in TensorFlow using same graph

python

machine-learning

tensorflow

tensorboard