`tf.distribute.MirroredStrategy` 对训练结果有影响吗？
Does `tf.distribute.MirroredStrategy` have an impact on training outcome?
不知道MirroredStrategy对训练结果有没有影响
我的意思是：在单个设备上训练的模型与在多个设备上训练的模型相同吗？
我认为应该是同一个模型，因为它只是梯度的分布式计算，不是吗？
是的，在单GPU和多GPU（单机）上训练的模型是一样的。也就是说，根据文档，模型中的变量在所有 GPU 上都是 replicated and in sync。
不知道MirroredStrategy对训练结果有没有影响
我的意思是：在单个设备上训练的模型与在多个设备上训练的模型相同吗？
我认为应该是同一个模型，因为它只是梯度的分布式计算，不是吗？
是的，在单GPU和多GPU（单机）上训练的模型是一样的。也就是说，根据文档，模型中的变量在所有 GPU 上都是 replicated and in sync。