Python 中的分位数回归给出与 R 中不同的结果

Question

Python 中 statsmodels 包中的 QuantReg 给出的结果与 R 中的结果截然不同，使用的数据如下面的代码所示。

我分别尝试了Python和R中的STACKLOSS数据，结果是一样的。我想知道是不是数据本身导致了 Python 中的某些问题，或者这两种算法的实现可能存在一些根本差异，但无法弄清楚。

Python中的代码：

from statsmodels.regression.quantile_regression import QuantReg
y = [0.00, 0.00, 0.00, 0.00, 0.00, 0.00, 0.00, 0.00, 662.59, 248.08, 331.25, 182.98, 1085.69, -44.32]
X = [
    [1, 20322.18, 0.00, 0], [1, 19653.34, 0.00, 0],
    [ 1, 0.00, 72712.41, 0], [1, 0.00, 72407.31, 0],
    [1, 0.00, 72407.31, 0], [1, 0.00, 72201.89, 9111],
    [1, 183.52, 0.00, 0], [1, 183.52, 0.00, 0],
    [1, 0.00, 0.00, 2879], [1, 0.00, 0.00, 2698],
    [1, 0.00, 0.00, 0], [1, 0.00, 0.00, 0],
    [1, 0.00, 0.00, 19358], [1, 0.00, 0.00, 19001]
]

print(QuantReg(y, X).fit(q=.5).summary())

在 R 中：

library(quantreg)

y <- c(0.00, 0.00, 0.00, 0.00, 0.00, 0.00, 0.00, 0.00, 662.59, 248.08, 331.25, 182.98, 1085.69, -44.32)
X <- matrix(
    c(1, 20322.18, 0.00, 0, 1, 19653.34, 0.00, 0,
     1, 0.00, 72712.41, 0, 1, 0.00, 72407.31, 0,
    1, 0.00, 72407.31, 0, 1, 0.00, 72201.89, 9111,
    1, 183.52, 0.00, 0, 1, 183.52, 0.00, 0,
    1, 0.00, 0.00, 2879, 1, 0.00, 0.00, 2698,
    1, 0.00, 0.00, 0, 1, 0.00, 0.00, 0,
    1, 0.00, 0.00, 19358, 1, 0.00, 0.00, 19001),
    nrow=14, ncol=4, byrow=TRUE
)

rq(y~.-1, data=data.frame(X), tau=.5, method='fn')

R 给出的系数 1.829800e+02, -9.003955e-03, -2.527093e-03, -5.697678e-05

while Python 给出以下 3.339e-05, -1.671e-09, -4.635e-10, 7.957e-11

欢迎任何意见或提示。

Answer 1

我猜这是参数没有很好识别的数据问题。超过一半的观测值的响应值为零，而所有其他值都大得多。

据我所知，优化算法在 R 和 statsmodels 之间有所不同，尤其是在处理残差接近零的观测值方面。

如果参数没有很好地识别，也就是说，如果数据没有在相关范围内提供足够的信息，那么实现和优化算法中的小差异可能会对参数估计产生很大影响。

这很可能意味着在这种情况下没有估计可以提供精确的参数估计。

Answer 2

R 和 Python 中的优化算法有很大不同。 QuanReg in Python 使用迭代加权最小二乘法估计分位数回归模型，而 R 包 quantreg 使用内点法、单纯形法和平滑法来解决优化问题.

结果肯定是不同的，但它们总是彼此接近。可能你的数据不适合配合模型或者某个优化算法使用。

Answer 3

你现在可能已经明白了，但你需要自己在 python QuantReg 包中添加常量。使用 sm.addconstant 后，您应该会得到相同的结果。

Answer 4

我也注意到了同样的事情。对我来说，这似乎只是一个 numerical/scaling 问题。对于 Python 和 R，我将所有值都转换为 z 分数，之后两组 beta 几乎相同，尽管 SE 仍然不同。在 Python 版本中我也有警告“条件数很大，5.66e+06。这可能表明存在强多重共线性或其他数值问题。”

我意识到这个问题已经有将近 2 年的历史了，但我认为其他任何答案都没有提到这一点，所以希望这对任何新读者有所帮助。

Python 中的分位数回归给出与 R 中不同的结果

Quantile Regression in Python gives different results than in R

python

r

quantreg