使用 sklean 和 seed 时神经网络结果不一致

Question

在 sklearn 中使用运行神经网络后，我收到不一致的结果，即使在实现种子函数之后也是如此。每次我运行代码，我都会收到不同的 MSE 值和每个测试种子值的 R 平方值。这些值的范围很大，R 平方介于 -0.1 到 0.6 之间。我想知道它是否是数据问题，因为我只有 22 列和 241 行。我也试过设置

mlp=MLPRegressor(hidden_layer_sizes=(22,22,22),max_iter=2000,learning_rate_init=0.001,random_state=0)

以及更改 random_state 的值。下面是我的代码。非常感谢

import matplotlib.pyplot as plt
import pandas as pd
import sklearn
import numpy as np
data=pd.read_csv(r'''D:\PhDstyear\machinelearning\NNforF2050\DATAnnF2050.csv''')
print(data.shape)
print(data.dtypes)

x=data.drop('EnergyConsumpManuf',axis=1)


y=data['EnergyConsumpManuf']


from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test=train_test_split(x,y,test_size=0.2)

from sklearn.preprocessing import StandardScaler
scaler=StandardScaler()
scaler.fit(x_train)
x_train=scaler.transform(x_train)
x_test=scaler.transform(x_test)

from sklearn.neural_network import MLPRegressor 
from sklearn import metrics
from sklearn.metrics import accuracy_score
from math import sqrt

for i in range(15):
    print('np.random.seed(%d)'%(i))
    np.random.seed(i)
    mlp=MLPRegressor(hidden_layer_sizes=(22,22,22),max_iter=2000,learning_rate_init=0.001)
    mlp.fit(x_train,y_train)
    predictions=mlp.predict(x_test)
    print('MSE train: ',metrics.mean_squared_error(y_test,predictions))
    RMS=sqrt(metrics.mean_squared_error(y_test,predictions))
    print('RMS',RMS)
    RTWO=sklearn.metrics.r2_score(y_test,predictions)
    print('RTWO',RTWO)
    print('MAE',metrics.mean_absolute_error(y_test,predictions))

Answer 1

您还需要设置 train_test_split 函数的 random_state 参数。如果没有固定的随机状态，数据每次都会随机拆分，这就是每次运行代码时结果都会改变的原因。

使用 sklean 和 seed 时神经网络结果不一致

Inconsistent neural network results when using sklean and seed

python

machine-learning

neural-network

scikit-learn

random-seed