如何运行 TensorFlow分布式模式示例代码?

How to run the example code of TensorFlow in distributed mode?

我是 TensorFlow 的新手,尝试 运行 在分布式模式下使用它。现在我在 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/how_tos/distributed/index.md 找到了它的官方文档。但是它缺少 loss 功能。

任何人都可以帮助完成,以便我可以 运行 使用您的代码吗?

它不仅缺少损失函数,还缺少训练模型,从而使损失最小化。

此文件只是一个模板文件,您必须完成该文件才能在分布式模式下训练您的模型。

因此,当您在模板文件中找到评论时

  # Build model...

这意味着你必须定义一个模型来训练(例如:一个卷积神经网络,一个简单的感知器......)。 您可以在教程中找到类似 MNIST 模型的东西:https://www.tensorflow.org/versions/r0.9/tutorials/mnist/beginners/index.html

您的模型以要最小化的损失函数结束。

以MNIST为例,损失为:

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))
loss = cross_entropy

一旦您定义了要训练的模型和要最小化的损失,您就已经用缺失值填充了模板,现在您可以开始以分布式模式训练您的模型。