当 input/output 有不同的范围时，是否应该改变学习率？
Should the learning rate be changed when the input/output has a different range?
我有一个现有的 Caffe CNN，它获取 224*224 图像作为输入，每个像素都具有范围 [0,100] 中的单个值。输出大小为 56*56，每个都是 313 类.
之一
现在我想更改 input/output 类型并在这个新网络上训练模型。输入值在 [0,1] 范围内，输出由 324 类.
组成
由于输入数据范围的变化，我应该改变基础学习率吗？
不，你的学习率与你的数据无关。它只是在更新权重之前乘以损失梯度的一个因素。您可以将其视为百分比，而不是绝对值。
我有一个现有的 Caffe CNN，它获取 224*224 图像作为输入，每个像素都具有范围 [0,100] 中的单个值。输出大小为 56*56，每个都是 313 类.
之一现在我想更改 input/output 类型并在这个新网络上训练模型。输入值在 [0,1] 范围内，输出由 324 类.
组成由于输入数据范围的变化，我应该改变基础学习率吗？
不，你的学习率与你的数据无关。它只是在更新权重之前乘以损失梯度的一个因素。您可以将其视为百分比，而不是绝对值。