Keras 中的损失函数和批量大小
Loss function and batch size in Keras
对于class化任务，我们可以使用几个损失函数。
如果我只是使用类似
model.compile{ loss=keras.losses.categorical_crossentropy, ....
这是否意味着损失在批量大小中标准化？喜欢
loss = 1/m * sum_i sum_c [ y_i^c * ln(y^_i)^c ]
m 是批量大小，
i 是一个样本的索引
c 是 class
或者损失在batch size中求和？
loss = sum_i sum_c [ y_i^c * ln(y^_i)^c ]
我可以从 keras API 文档中找到的是，批量优化的默认减少设置为 AUTO，“对于几乎所有情况”默认为 SUM_OVER_BATCH_SIZE。这意味着损失是标量和除以批处理中的元素数。
对于class化任务，我们可以使用几个损失函数。 如果我只是使用类似
model.compile{ loss=keras.losses.categorical_crossentropy, ....
这是否意味着损失在批量大小中标准化？喜欢
loss = 1/m * sum_i sum_c [ y_i^c * ln(y^_i)^c ]
m 是批量大小，
i 是一个样本的索引
c 是 class
或者损失在batch size中求和？
loss = sum_i sum_c [ y_i^c * ln(y^_i)^c ]
我可以从 keras API 文档中找到的是，批量优化的默认减少设置为 AUTO，“对于几乎所有情况”默认为 SUM_OVER_BATCH_SIZE。这意味着损失是标量和除以批处理中的元素数。