从决策树中提取使用的列 names/features

Question

请问有没有好心人指出一种提取拟合树中使用的 columns/features 的方法，使用如下代码：

library(dplyr)
library(caret)
library(rpart)

df <- data.frame(
    x1 = rnorm(100, 3, 1)
    , x2 = rnorm(100, 5, 2)
    , y = rnorm(100, 3, 1)
)

ivs <- df %>%
    dplyr::select(
        x1
        , x2
    )

fitted <- caret::train(
     x = ivs
     , y = df$y        
)

model <-fitted$finalModel
model

这个：

model$terms

为您提供所有术语（在 x 中）- 因此不一定是曾经使用过的术语。

PS:

沿着这些方向的东西可能是前进的方向：

model$frame %>%
    select(
        var
    ) %>%
    filter(
        var != "<leaf>"
    )

Answer 1

随机森林模型是决策树的集合，您可以使用函数varUsed获取决策树使用的变量。如果你使用插入符号，你需要设置 keep.forest=TRUE :

library(caret)
set.seed(111)

X = matrix(runif(2000),ncol=20)
colnames(X) = paste0("col",1:20)
y = rnorm(100)

fitted <- train(x = X,y = y,trControl = trainControl(method="cv"),
keep.forest=TRUE,tuneGrid = data.frame(mtry=3:5))

然后我们看看使用的变量，下面的table告诉你每个变量（行），它在每棵树（列）中使用了多少次：

model <-fitted$finalModel
varUsed(model,by.tree=TRUE)

dim(varUsed(model,by.tree=TRUE))
[1]  20 500

head(varUsed(model,by.tree=TRUE))
     [,1] [,2] [,3] [,4] [,5] [,6] [,7] [,8] [,9] [,10] [,11] [,12] [,13] [,14]
[1,]    1    3    1    4    1    2    2    2    2     2     1     0     3     2
[2,]    2    4    2    2    3    3    1    4    1     3     1     4     0     4
[3,]    3    1    5    1    1    0    2    2    0     1     2     1     2     1
[4,]    4    0    2    3    1    0    2    1    4     2     1     2     1     1
[5,]    0    0    1    0    1    4    3    2    2     2     3     4     0     0
[6,]    1    2    1    3    2    2    2    1    1     1     1     1     2     3

您可以使用以下方法详细查看：

head(getTree(model,1,labelVar=TRUE))
  left daughter right daughter split var split point status  prediction
1             2              3     col13   0.9651637     -3  0.04972823
2             4              5     col13   0.5825061     -3 -0.05466984
3             0              0      <NA>   0.0000000     -1  2.55528193
4             6              7      col6   0.8524606     -3 -0.30132135
5             8              9     col16   0.8011010     -3  0.51518018
6            10             11      col3   0.3629737     -3 -0.45289996

如果我们将 split var 列制表，我们会得到与之前 table 相同的结果。

从决策树中提取使用的列 names/features

extract used column names/features from decision tree

r

random-forest

r-caret