对于回归,有多少种损失函数?它们是什么以及我们应该何时使用它们?

For regression, how many kinds of loss function are there? And what are they and when we should use them?

我刚刚找到了回归问题的好的损失函数。然后在Tensorflow中使用。

在tensorflow的API中,有很多损失函数,大部分都是针对分类问题设计的。

对于回归问题,MSE?

之外的任何其他好的损失函数

我在我的代码中使用以下拟合目标列表:

最小绝对误差平方和

最小相对误差平方和

最小正交距离平方和

绝对误差绝对值的最小和

log[abs(predicted/actual)]

的最小平方和

相对误差绝对值的最小和

绝对误差的最低峰值绝对值

相对误差的最低峰值绝对值

最低赤池信息准则

最低贝叶斯信息准则

通常,标准的最低绝对误差平方和足以满足我的需要,尽管我偶尔会使用最低的相对误差平方和。我只是很少或根据需要使用其他拟合目标来减少数据中异常值的拟合效果。

请参阅 scipy 稳健非线性回归文档中讨论的更简洁、更容易获得的次线性损失函数列表。

soft_l1 通常可以有效地捕获潜在的重要性,同时拒绝异常值。如果您在稀疏数据集中有高杠杆率的离群值,这一点尤其重要。

https://scipy-cookbook.readthedocs.io/items/robust_regression.html