使用张量板时,如何总结通过多个小批量计算的损失?

When using tensorboard, how to summarize a loss that is computed over several minibatches?

我想使用 Tensorboard 可视化验证样本的损失演变。但是验证集太大,无法在一个小批量中计算。因此,为了计算我的验证损失,我必须在覆盖验证集的几个小批量上多次调用 session.run。然后我将每个小批量的损失(在 python 中)相加以获得完整的验证损失。

我的问题是 tf.scalar_summary 似乎必须附加到 tensorflow 节点。但是我需要以某种方式 "attach" 将它与 session.run 的几个 运行 节点的值之和相加。

有办法吗?也许通过直接总结包含小批量损失总和的 python 浮点数?但是我没有在文档中看到 "summarize" for tensorboard a python value that is outside of a computation 的方法。文档 "How-To" 部分中的示例仅涉及可以在对 session.run.

的单次调用中计算的损失

您可以添加在每次 sess.Run 调用时更新的 Variable,并让摘要跟踪 Variable 的值。