获取 lm() 返回的 "mlm" 对象的回归系数的置信区间

Question

我是运行具有 2 个结果变量和 5 个预测变量的多元回归。我想获得所有回归系数的置信区间。通常我使用函数 lm 但它似乎不适用于多元回归模型（对象 mlm）。

这是一个可重现的例子。

library(car)
mod <- lm(cbind(income, prestige) ~ education + women, data=Prestige)
confint(mod) # doesn't return anything.

还有其他方法吗？（我可以只使用标准误差的值并乘以正确的临界 t 值，但我想知道是否有更简单的方法来做到这一点）。

Answer 1

这来自 predict.lm 示例。您需要 interval = 'confidence' 选项。

x <- rnorm(15)
y <- x + rnorm(15)
predict(lm(y ~ x))
new <- data.frame(x = seq(-3, 3, 0.5))
predict(lm(y ~ x), new, se.fit = TRUE)
pred.w.clim <- predict(lm(y ~ x), new, interval = "confidence")
matplot(new$x, pred.w.clim,
        lty = c(1,2,2,3,3), type = "l", ylab = "predicted y")

Answer 2

confint 不会 return 你什么，因为不支持 "mlm" 方法：

methods(confint)
#[1] confint.default confint.glm*    confint.lm      confint.nls*

正如你所说，我们可以通过加上/减去一些标准误差的倍数来得到置信区间的上限/下限。您可能打算通过 coef(summary(mod)) 执行此操作，然后使用一些 *apply 方法来提取标准错误。但是 my answer to Obtain standard errors of regression coefficients for an “mlm” object returned by lm() 为您提供了一种无需通过 summary 即可获得标准错误的超级有效方法。将 std_mlm 应用于您的示例模型得到：

se <- std_mlm(mod)
#                 income   prestige
#(Intercept) 1162.299027 3.54212524
#education    103.731410 0.31612316
#women          8.921229 0.02718759

现在，我们定义另一个小函数来计算下限和上限：

## add "mlm" method to generic function "confint"
confint.mlm <- function (model, level = 0.95) {
  beta <- coef(model)
  se <- std_mlm (model)
  alpha <- qt((1 - level) / 2, df = model$df.residual)
  list(lower = beta + alpha * se, upper = beta - alpha * se)
  }

## call "confint"
confint(mod)

#$lower
#                 income    prestige
#(Intercept) -3798.25140 -15.7825086
#education     739.05564   4.8005390
#women         -81.75738  -0.1469923
#
#$upper
#                income    prestige
#(Intercept)  814.25546 -1.72581876
#education   1150.70689  6.05505285
#women        -46.35407 -0.03910015

这很容易理解。例如，对于响应 income，所有变量的 95% 置信区间为

#(intercept)    (-3798.25140, 814.25546)
#  education    (739.05564, 1150.70689)
#      women    (-81.75738, -46.35407)

Answer 3

这似乎最近（2018 年 7 月）在 R-devel list 上进行了讨论，因此希望在 R 的下一个版本中修复它。该列表中提出的解决方法是使用：

confint.mlm <- function (object, level = 0.95, ...) {
  cf <- coef(object)
  ncfs <- as.numeric(cf)
  a <- (1 - level)/2
  a <- c(a, 1 - a)
  fac <- qt(a, object$df.residual)
  pct <- stats:::format.perc(a, 3)
  ses <- sqrt(diag(vcov(object)))
  ci <- ncfs + ses %o% fac
  setNames(data.frame(ci),pct)
}

测试：

fit_mlm <- lm(cbind(mpg, disp) ~ wt, mtcars)
confint(fit_mlm)

给出：

                       2.5 %     97.5 %
mpg:(Intercept)    33.450500  41.119753
mpg:wt             -6.486308  -4.202635
disp:(Intercept) -204.091436 -58.205395
disp:wt            90.757897 134.198380

就个人而言，我喜欢干净利落的方式（使用 broom::tidy 会更好，但目前有问题）

library(tidyverse)
confint(fit_mlm) %>% 
  rownames_to_column() %>% 
  separate(rowname, c("response", "term"), sep=":")

给出：

  response        term       2.5 %     97.5 %
1      mpg (Intercept)   33.450500  41.119753
2      mpg          wt   -6.486308  -4.202635
3     disp (Intercept) -204.091436 -58.205395
4     disp          wt   90.757897 134.198380

获取 lm() 返回的 "mlm" 对象的回归系数的置信区间

Get confidence intervals for regression coefficients of "mlm" object returned by `lm()`

regression

r

linear-regression

lm

mlm