TensorFlow：我的（广义）骰子损失实施有什么问题？

Question

我使用 TensorFlow 1.12 进行基于材料的语义（图像）分割。使用多项式交叉熵损失函数，这会产生不错的结果，特别是考虑到我使用的训练数据量稀疏，mIoU 为 0.44:

然而，当我用我的骰子损失实现替换它时，网络预测更小的分割，这与我对其理论的理解相反。我认为它应该更好地处理不平衡的数据集，并且应该更好地预测较小的类:

A table 更好地形象化了这一点；如您所见，骰子损失更小类永远不会被预测（因此精度未定义）。使用交叉熵，至少对所有类:

进行了一些预测

我最初以为这是网络增加mIoU的方式（因为我的理解是dice loss直接优化了dice loss）。然而，与交叉熵的 0.44 mIoU 相比，具有骰子损失的 mIoU 为 0.33，因此它在这方面失败了。我现在想知道我的实施是否正确：

def dice_loss(onehots_true, logits):
    probabilities = tf.nn.softmax(logits)
    #weights = 1.0 / ((tf.reduce_sum(onehots_true, axis=0)**2) + 1e-3)
    #weights = tf.clip_by_value(weights, 1e-17, 1.0 - 1e-7)
    numerator = tf.reduce_sum(onehots_true * probabilities, axis=0)
    #numerator = tf.reduce_sum(weights * numerator)
    denominator = tf.reduce_sum(onehots_true + probabilities, axis=0)
    #denominator = tf.reduce_sum(weights * denominator)
    loss = 1.0 - 2.0 * (numerator + 1) / (denominator + 1)
    return loss

我发现一些实现使用权重，但我不确定为什么，因为 mIoU 也没有加权。无论如何，当我使用权重时，训练在几个时期后过早停止，测试结果很糟糕，因此我把它们注释掉了。

有人看到我的骰子损失实施有什么问题吗？我非常忠实地遵循在线示例。

为了加快标注过程，我只标注了平行四边形的多边形，并且从一个更大的数据集中复制了一些标注。这导致每张图片只有几个地面实况分割：

（这张图片实际上包含的注释比平均值略多。）

Answer 1

根据 this article，您对 Dice 损失的实现是不正确的。而不是：

loss = 1.0 - 2.0 * (numerator + 1) / (denominator + 1)

你应该有：

loss = 1.0 - (2.0 * numerator + 1) / (denominator + 1)

Answer 2

我会把公式加进去，供以后回答的人参考。广义骰子损失由下式给出：

图片来自 Sudre et al.

Class被l迭代。每个像素位置由 n 迭代。可以在网络输出中使用 softmax 或 sigmoid 生成概率 p_ln。

在您的实施中，整个批次的损失是求和。这会产生非常大的损失值，并且您的网络梯度会爆炸。相反，您需要使用平均值。请注意，权重是确保您解决 class 不平衡问题所必需的。

没有具体证据表明 GDL 优于交叉熵，除了论文中提到的一个非常具体的例子。 GDL 很有吸引力，因为它与 IoU 直接相关，因此损失函数和评估指标会齐头并进。如果您仍然无法训练您的网络，我建议您永远转向交叉熵。

Answer 3

这里是 Github 的一个实现，可能会有帮助

def dice_coef(y_true, y_pred, smooth=1):
    """
    Dice = (2*|X & Y|)/ (|X|+ |Y|)
         =  2*sum(|A*B|)/(sum(A^2)+sum(B^2))
    ref: https://arxiv.org/pdf/1606.04797v1.pdf
    """
    intersection = K.sum(K.abs(y_true * y_pred), axis=-1)
    return (2. * intersection + smooth) / (K.sum(K.square(y_true),-1) + K.sum(K.square(y_pred),-1) + smooth)

def dice_coef_loss(y_true, y_pred):
    return 1-dice_coef(y_true, y_pred)

TensorFlow：我的（广义）骰子损失实施有什么问题？

TensorFlow: What is wrong with my (generalized) dice loss implementation?

image-segmentation

tensorflow

loss-function