如何在 sklearn 中使用 SGD 优化器优化 MAE 损失?
How MAE loss is optimized with SGD optimizer in sklearn?
我想知道如何使用 SGD 优化器优化 MAE 损失?我的意思是如何计算绝对值和的导数。有没有用到数值解之类的?
我发现 sklearn.linear_model.SGDRegressor MAE 损失是 'epsilon_insensitive' 损失的特例epsilon 等于 0。根据此损失的 source code,我们只需应用 sign(x)函数对ground truth和预测值的差异进行计算导数。
我想知道如何使用 SGD 优化器优化 MAE 损失?我的意思是如何计算绝对值和的导数。有没有用到数值解之类的?
我发现 sklearn.linear_model.SGDRegressor MAE 损失是 'epsilon_insensitive' 损失的特例epsilon 等于 0。根据此损失的 source code,我们只需应用 sign(x)函数对ground truth和预测值的差异进行计算导数。