如何使用随机森林训练和预测模型？

Question

我们如何使用 random forest 预测模型？我想训练一个模型并最终使用 three column dataset 的 random forest model in Python 预测真值（单击 link 下载完整的 CSV-数据集，格式如下

t_stamp,X,Y
0.000543,0,10
0.000575,0,10
0.041324,1,10
0.041331,2,10
0.041336,3,10
0.04134,4,10
0.041345,5,10
0.04135,6,10
0.041354,7,10

我想使用 [=17] 的最后（例如：5、10、100、300、1000、..等）数据点来预测 Y 的当前值（真实值） =] 使用 Python 中 sklearn 的 random forest model。意思是将 X 列的 [0,0,1,2,3] 作为第一个 window 的输入 - 我想预测 Y 的第 5 行值是根据 [=16= 的先前值训练的].同样，使用简单的 rolling OLS regression model，我们可以像下面那样做，但我想使用 random forest model 来做。

import pandas as pd

df = pd.read_csv('data_pred.csv')
model = pd.stats.ols.MovingOLS(y=df.Y, x=df[['X']], 
                               window_type='rolling', window=5, intercept=True)

我已经用 random forest 解决了这个问题，结果是 df:

t_stamp     X    Y     X_t1    X_t2     X_t3    X_t4    X_t5
0.000543    0   10      NaN     NaN     NaN     NaN     NaN
0.000575    0   10      0.0     NaN     NaN     NaN     NaN
0.041324    1   10      0.0     0.0     NaN     NaN     NaN
0.041331    2   10      1.0     0.0     0.0     NaN     NaN
0.041336    3   10      2.0     1.0     0.0     0.0     NaN
0.041340    4   10      3.0     2.0     1.0     0.0     0.0
0.041345    5   10      4.0     3.0     2.0     1.0     0.0
0.041350    6   10      5.0     4.0     3.0     2.0     1.0
0.041354    7   10      6.0     5.0     4.0     3.0     2.0
 .........................................................   
[ 10.  10.  10.  10. .................................]
MSE: 1.3273548431

这似乎适用于范围 5、10、15、20、22。但是，它似乎不适用于大于 23 的范围（它打印 MSE: 0.0），这是因为，正如您从 dataset 中看到的那样，Y 的值从第 1 行到第 23 行是固定的 (10)，然后从第 24 行更改为另一个值（20，依此类推）。我们如何才能根据最后的数据点训练和预测此类案例的模型？

Answer 1

现有代码似乎在调用 dropna 时截断了 X 而不是 y。您还训练和测试相同的数据。

解决这个问题将得到非零 MSE。

代码：

import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import mean_squared_error
from sklearn.model_selection import train_test_split

df = pd.read_csv('/Users/shivadeviah/Desktop/estimated_pred.csv')

df1 = pd.DataFrame({ 'X_%d'%i : df['X'].shift(i) for i in range(25)})
df1['Y'] = df['Y']
df1 = df1.sample(frac=1).reset_index(drop=True)
df1.dropna(inplace=True)

X = df1.iloc[:, :-1].values
y = df1.iloc[:, -1].values

x = int(len(X) * 0.66)

X_train = X[:x]
X_test = X[x:]
y_train = y[:x]
y_test = y[x:]

reg = RandomForestRegressor(criterion='mse')
reg.fit(X_train, y_train)

modelPred = reg.predict(X_test)

print(modelPred)
print("Number of predictions:",len(modelPred))

meanSquaredError = mean_squared_error(y_test, modelPred)

print("MSE:", meanSquaredError)
print(df1.size)
df2 = df1.iloc[x:, :].copy()


df2['pred'] = modelPred

df2.head()

输出：

[ 267.7     258.26608241  265.07037249 ...,  267.27370169  256.7     272.2 ]
Number of predictions: 87891
MSE: 1954.9271256
6721026

        X_0       pred
170625  48  267.700000
170626  66  258.266082
170627  184 265.070372
170628  259 294.700000
170629  271 281.966667

如何使用随机森林训练和预测模型？

How to train and predict a model using Random Forest?

python

dataframe

pandas

random-forest

scikit-learn