这个objective函数中方差可以用绝对值代替吗？

Question

最初我将 objective 函数建模如下：

argmin var(f(x),g(x))+var(c(x),d(x))

其中 f、g、c、d 是线性函数

为了能够使用线性求解器，我将问题建模如下

argmin abs(f(x),g(x))+abs(c(x),d(x))

在这种情况下将方差更改为绝对值是否正确，我很确定它们的含义与两个函数之间的差异最小相同

Answer 1

您没有提供足够的上下文来回答问题。即使您的问题似乎与回归无关，但在许多方面它类似于在 least squares and least absolute deviations 回归方法之间进行选择的问题。如果 objective 函数中的那个项在任何意义上都是错误项，那么对错误建模的最合适方法取决于错误分布的性质。如果存在正态分布的噪声，则最小二乘法更好。最小绝对偏差在非参数设置中更好，并且对异常值不太敏感。如果问题与概率完全无关，则需要引入其他标准来决定这两个选项。

综上所述，这两种测量距离的方法大体相似。当且仅当另一个是——尽管它们不会同样小时，一个会相当小。如果它们对于您的目的足够相似，那么绝对值可以线性化这一事实可能是使用它的一个很好的动机。另一方面——如果基于方差的方法确实能更好地表达您感兴趣的内容，那么不能使用 LP 这一事实不足以证明采用绝对值。毕竟 -- 二次规划并不比 LP 难多少，至少在一定规模下是这样。

总而言之——它们并不意味着相同的含义，但它们确实意味着相似的含义；而且，它们是否足够相似取决于您的目的。