使用随机森林创建二元结果

Question

我有一个如下所示的数据集：

 TEAM1         TEAM2     EXPG1  EXPG2         Gewonnen    
 ADO Den Haag  Groningen 1.5950 1.2672        1

我现在尝试根据 EXPG1 和 EXPG2 预测列 Gewonnen。因此，我创建了一个训练集和测试集，并正在创建以下模型（全部使用 rcaret）：

modFit <- train(Gewonnen~ EXPG1 + EXPG2, data=training, method="rf", prox=TRUE)

我现在无法制作混淆矩阵，因为我的数据有更多的参考。这是真的，因为当我这样做时：

pred <- predict(modFit, testing)
head(print)

它说：0.5324000 0.7237333 0.2811333 0.8231000 0.8299333 0.9792000

因为我想制作一个混淆矩阵，所以我无法将它们转换为 0/1，但我感觉模型中也应该有一个选项可以做到这一点。

关于我应该在此模型中更改什么以创建 0/1 值的任何想法。我在文档中找不到它：

modFit <- train(Gewonnen~ EXPG1 + EXPG2, data=training, method="rf", prox=TRUE)

Answer 1

这个答案有点推测性，因为您省略了有关数据集的一些关键细节，而且我没有广泛使用 caret 包。话虽如此，您似乎在回归模式下运行宁随机森林，这意味着您最终将得到一个连续函数。这意味着预测的响应值可以是 0、1 或介于 0 和 1 之间的任何值。如果您的 Gewonnen 列只有 0 或 1 的值，并且您希望预测值也以这种方式表现，那么您可以尝试将 Gewonnen 转换为分类变量。作为 this article discusses，这可能会告诉随机森林运行在分类模式而不是回归模式。

Gewonnen <- as.factor(Gewonnen)

这会像之前一样构建随机森林，您应该会得到想要的响应。

Answer 2

首先，正如 Tim Biegeleisen 所说，您应该将 Gewonnen 变量转换为一个因子（在训练和测试集中），如果尚未：

training$Gewonnen <- as.factor(training$Gewonnen)
testing$Gewonnen <- as.factor(testing$Gewonnen)

之后，caret 函数 predict 中的 type 选项决定了您对二进制 class化问题得到的响应类型，即 class 标签或概率。这是来自 caret documentation 的可重现示例，使用来自包 mlbench:

的 Sonar 数据集

library(caret)
library(mlbench)
data(Sonar)
str(Sonar$Class)
# Factor w/ 2 levels "M","R": 2 2 2 2 2 2 2 2 2 2 ...

set.seed(998)
inTraining <- createDataPartition(Sonar$Class, p = .75, list = FALSE)
training <- Sonar[ inTraining,]
testing  <- Sonar[-inTraining,]

modFit <- train(Class ~ ., data=training, method="rf", prox=TRUE)

pred <- predict(modFit, testing, type="prob") # for class probabilities
head(pred)
#        M     R
# 5  0.442 0.558
# 10 0.276 0.724
# 11 0.096 0.904
# 12 0.360 0.640
# 20 0.654 0.346
# 21 0.522 0.478

pred2 <- predict(modFit, testing, type="raw") # for class labels
head(pred2)
# [1] R R R R M M
# Levels: M R

对于混淆矩阵，您将需要 class 个标签（即上面的 pred2）：

confusionMatrix(pred2, testing$Class)
# Confusion Matrix and Statistics

#           Reference
# Prediction  M  R
#          M 25  6
#          R  2 18

使用随机森林创建二元结果

Create a binary outcome with random forest

r

machine-learning

random-forest