来自 cross_validate 和迭代 Kfolds 的不同 RMSE
Different RMSE from cross_validate and iterating Kfolds
我想编写自己的交叉验证函数,因为我不能在这种情况下使用 cross_validate。
如果我错了请纠正我,但我的交叉验证码是:
cv = cross_validate(elastic.est,X,y,cv=5,scoring='neg_mean_squared_error')
输出:
{'fit_time': array([3.90563273, 5.272861 , 2.19111824, 6.42427135, 5.62084389]),
'score_time': array([0.05504966, 0.06105542, 0.0530467 , 0.06006551, 0.05603933]),
'test_score': array([-0.00942235, -0.01220626, -0.01157624, -0.00998556, -0.01144867])}
所以我这样做是为了计算 RMSE。
math.sqrt(abs(cv["test_score"]).mean())
结果总是在0.104
左右
然后我编写了下面的函数来循环 kFolds,我总是得到一个低得多的 RMSE 分数(它运行速度大约快 10 倍)
def get_rmse(y_true,y_pred):
score = math.sqrt(((y_pred-y_true) ** 2).mean())
return score
listval=[]
kf = KFold(n_splits=5,shuffle=True)
for train_index, test_index in kf.split(X,y):
Xx = np.array(X)
yy = np.array(y)
X_train, X_test = Xx[train_index], Xx[test_index]
y_train, y_test = yy[train_index], yy[test_index]
elastic.est.fit(X_train,y_train)
preds = elastic.est.predict(X_test)
listval.append(get_rmse(y_test,preds))
np.mean(listval)
结果是 0.0729 并且总是落在这个值附近。
我错过了什么?相同的数据,相同的估计器,相同的折叠数?
您观察到的不同之处在于您计算最终数字的方式不同:
- 对于
cross_validate
输出,您首先对 MSE 进行平均,然后取平方根。
- 对于自定义实现,您首先取根,然后才取平均值。
当然一般情况下均值的根不等于根的均值
我想编写自己的交叉验证函数,因为我不能在这种情况下使用 cross_validate。
如果我错了请纠正我,但我的交叉验证码是:
cv = cross_validate(elastic.est,X,y,cv=5,scoring='neg_mean_squared_error')
输出:
{'fit_time': array([3.90563273, 5.272861 , 2.19111824, 6.42427135, 5.62084389]),
'score_time': array([0.05504966, 0.06105542, 0.0530467 , 0.06006551, 0.05603933]),
'test_score': array([-0.00942235, -0.01220626, -0.01157624, -0.00998556, -0.01144867])}
所以我这样做是为了计算 RMSE。
math.sqrt(abs(cv["test_score"]).mean())
结果总是在0.104
左右然后我编写了下面的函数来循环 kFolds,我总是得到一个低得多的 RMSE 分数(它运行速度大约快 10 倍)
def get_rmse(y_true,y_pred):
score = math.sqrt(((y_pred-y_true) ** 2).mean())
return score
listval=[]
kf = KFold(n_splits=5,shuffle=True)
for train_index, test_index in kf.split(X,y):
Xx = np.array(X)
yy = np.array(y)
X_train, X_test = Xx[train_index], Xx[test_index]
y_train, y_test = yy[train_index], yy[test_index]
elastic.est.fit(X_train,y_train)
preds = elastic.est.predict(X_test)
listval.append(get_rmse(y_test,preds))
np.mean(listval)
结果是 0.0729 并且总是落在这个值附近。
我错过了什么?相同的数据,相同的估计器,相同的折叠数?
您观察到的不同之处在于您计算最终数字的方式不同:
- 对于
cross_validate
输出,您首先对 MSE 进行平均,然后取平方根。 - 对于自定义实现,您首先取根,然后才取平均值。
当然一般情况下均值的根不等于根的均值