Python SKLearn适配值输入错误

Question

我正在尝试将一些数据拟合并转换为分类器，以便稍后在模型中使用，但它总是给我一个错误，我不明白为什么。拜托，有人可以帮助我吗？

##stores the function Pipeline with parameters decided above    
inputPipe = getPreProcPipe(normIn=normIn, pca=pca, pcaN=pcaN, whiten=whiten)
print inputPipe
print

#print devData[classTrainFeatures].values.astype('float32')

print devData[classTrainFeatures].shape
print type(devData[classTrainFeatures].values)

##fit pipeline to inputs features and types
inputPipe.fit(devData[classTrainFeatures].values.astype('float32'))

##transform inputs X
X_class = inputPipe.transform(devData[classTrainFeatures].values.astype(double))
## Output Y, i.e, 0 or 1 as it is the target
Y_class = devData['gen_target'].values.astype('int')
#print Y_class

输出：

Pipeline(memory=None,
 steps=[('pca', PCA(copy=True, iterated_power='auto', n_components=None, random_state=None,
svd_solver='auto', tol=0.0, whiten=False)), ('normPCA', StandardScaler(copy=True, with_mean=True, with_std=True))])

(32583, 2)
<type 'numpy.ndarray'>

代码结尾错误：

ValueError: Input contains NaN, infinity or a value too large for dtype('float32').

Code

Error part 1

Error part 2

Answer 1

我看到这种错误有 3 种可能性：

您的数据中可能有 Infs。在这种情况下，您可能需要移除这些样本。要找到 Infs，请尝试。 df.index[np.isinf(df).any(1)]
您的数据中可能有 NaN。使用 df.index[np.isnan(df).any(1)] 检查它。在这种情况下，您可以将 NaN 替换为执行 df.fillna(df.mean()).dropna(axis=1, how='all') .
最后但最有可能的是，你有一个恒定或几乎恒定的特征，一旦它被归一化并除以标准差就会得到 NaN 或 Infs。在那种情况下，您应该使用 VarianceThreshold

Answer 2

你必须检查你使用的数据（不是代码）是否包含 NaN（不是数字值），在 numpy 中有函数 .isnan()（https://docs.scipy.org/doc/numpy/reference/generated/numpy.isnan.html ) for this

也用 .isinf()

检查无限值

在这个 kaggle 内核中是用于在数据集中填充 NaN 和 Inf 的示例代码，然后在分类器中使用 https://www.kaggle.com/mknorps/titanic-with-decision-trees , also see https://datascience.stackexchange.com/questions/25924/difference-between-interpolate-and-fillna-in-pandas?rq=1 for interpolate()

删除包含 NaN 和 Inf 的行由

完成

indx = devData[classTrainFeatures].index[devData[classTrainFeatures].apply(np.isnan)]
devData=devData.drop(devData.index[indx]).copy()
devData=devData.reset_index(drop=True)

（获取 NaN 的索引，使用该索引删除所有包含 NaN 的行，重置数据帧的索引）

Python SKLearn适配值输入错误

Python SKLearn fit Value Error Input

python

machine-learning

scikit-learn

jupyter-notebook

valueerror