从训练测试拆分到使用管道在 sklearn 中进行交叉验证

Question

我有如下一段代码：

from sklearn import model_selection
from sklearn.ensemble import RandomForestClassifier
import pandas as pd
from sklearn.pipeline import Pipeline
...
x_train, x_test, y_train, y_test= model_selection.train_test_split(dataframe[features_],dataframe[labels], test_size=0.30,random_state=42, shuffle=True)
classifier = RandomForestClassifier(n_estimators=11)
pipe = Pipeline([('feats', feature), ('clf', classifier)])
pipe.fit(x_train, y_train)
predicts = pipe.predict(x_test)

我想使用 k 折交叉验证来训练我的模型，而不是训练测试拆分。但是，我不知道如何使用管道结构来实现它。我遇到了这个：https://scikit-learn.org/stable/modules/compose.html 但我无法适应我的代码。

如果可能我想使用from sklearn.model_selection import StratifiedKFold。我可以在没有管道结构的情况下使用它，但我不能在管道结构中使用它。

更新：我试过了，但它给我带来了错误。

x_train = dataframe[features_]
y_train = dataframe[labels]

skf = StratifiedKFold(n_splits=3, shuffle=True, random_state=42) 
classifier = RandomForestClassifier(n_estimators=11)
     
#pipe = Pipeline([('feats', feature), ('clf', classifier)])
#pipe.fit(x_train, y_train)
#predicts = pipe.predict(x_test)

predicts = cross_val_predict(classifier, x_train , y_train , cv=skf)

Answer 1

Pipeline用于assemble预处理、转换、建模等几个步骤。 StratifiedKFold 用于拆分数据集以评估模型的性能。它不能用作 Pipeline 的一部分，因为您不想对新数据执行它。

所以在pipeline的结构之外执行是正常的

从训练测试拆分到使用管道在 sklearn 中进行交叉验证

From train test split to cross validation in sklearn using pipeline

python

pipeline

scikit-learn

cross-validation