LabelEncoder - 在模型上反转和使用分类数据
LabelEncoder - reverse and use categorical data on model
我正在做一个预测项目(为了好玩),基本上我从 nltk 中提取了男性和女性的名字,将名字标记为 'male' 或 'female',然后得到每个名字的最后一个字母,最后使用不同的机器学习算法根据最后一个字母训练和预测性别。
所以我们知道 Python 的 sklearn 不处理分类数据,所以我使用 LabelEncoder 将最后一个字母转换为数值:
转换前:
name last_letter gender
0 Aamir r male
1 Aaron n male
2 Abbey y male
3 Abbie e male
4 Abbot t male
name last_letter gender
0 Abagael l female
1 Abagail l female
2 Abbe e female
3 Abbey y female
4 Abbi i female
如果我们连接两个数据帧,删除名称列并随机播放:
last_letter gender
0 a male
1 e female
2 g male
3 h male
4 e male
然后我用了LabelEncoder
:
from sklearn.preprocessing import LabelEncoder
label_encoder = LabelEncoder()
for col in df.columns:
df[col]= label_encoder.fit_transform(df[col])
df.head()
数据框变为:
last_letter gender
0 1 male
1 5 female
2 7 male
3 8 male
4 5 male
如您所见,在训练模型后(这里假设是随机森林)。如果我想使用模型来预测一个随机字母
e.g. rf_model.predict('a')
这是行不通的,因为模型只接受数值。在这种情况下,如果我这样做:
rf_model.predict(1) (assume letter 'a' is encoded as number 1)
模型预测结果returns
array([1])
那么我该怎么做:
rf_model.predict('a')
并获得类似 'female' 或 'male' 的结果,而不必输入数值并获得数值形式的结果?
只需使用您创建的 LabelEncoder
!由于您已经 fit
使用训练数据,您可以直接使用 transform
函数应用新数据。
In [2]: from sklearn.preprocessing import LabelEncoder
In [3]: label_encoder = LabelEncoder()
In [4]: label_encoder.fit_transform(['a', 'b', 'c'])
Out[4]: array([0, 1, 2])
In [5]: label_encoder.transform(['a'])
Out[5]: array([0])
与RandomForestClassifier
、
一起使用
In [59]: from sklearn.ensemble import RandomForestClassifier
In [60]: X = ['a', 'b', 'c']
In [61]: y = ['male', 'female', 'female']
In [62]: X_encoded = label_encoder.fit_transform(X)
In [63]: rf_model = RandomForestClassifier()
In [64]: rf_model.fit(X_encoded[:, None], y)
Out[64]:
RandomForestClassifier(bootstrap=True, class_weight=None, criterion='gini',
max_depth=None, max_features='auto', max_leaf_nodes=None,
min_impurity_split=1e-07, min_samples_leaf=1,
min_samples_split=2, min_weight_fraction_leaf=0.0,
n_estimators=10, n_jobs=1, oob_score=False, random_state=None,
verbose=0, warm_start=False)
In [65]: x = ['a']
In [66]: x_encoded = label_encoder.transform(x)
In [67]: rf_model.predict(x_encoded[:, None])
Out[67]:
array(['male'],
dtype='<U6')
如您所见,如果您使用它们来拟合分类器,则可以直接从分类器中获取字符串输出 'male', 'female'
。
我正在做一个预测项目(为了好玩),基本上我从 nltk 中提取了男性和女性的名字,将名字标记为 'male' 或 'female',然后得到每个名字的最后一个字母,最后使用不同的机器学习算法根据最后一个字母训练和预测性别。
所以我们知道 Python 的 sklearn 不处理分类数据,所以我使用 LabelEncoder 将最后一个字母转换为数值:
转换前:
name last_letter gender
0 Aamir r male
1 Aaron n male
2 Abbey y male
3 Abbie e male
4 Abbot t male
name last_letter gender
0 Abagael l female
1 Abagail l female
2 Abbe e female
3 Abbey y female
4 Abbi i female
如果我们连接两个数据帧,删除名称列并随机播放:
last_letter gender
0 a male
1 e female
2 g male
3 h male
4 e male
然后我用了LabelEncoder
:
from sklearn.preprocessing import LabelEncoder
label_encoder = LabelEncoder()
for col in df.columns:
df[col]= label_encoder.fit_transform(df[col])
df.head()
数据框变为:
last_letter gender
0 1 male
1 5 female
2 7 male
3 8 male
4 5 male
如您所见,在训练模型后(这里假设是随机森林)。如果我想使用模型来预测一个随机字母
e.g. rf_model.predict('a')
这是行不通的,因为模型只接受数值。在这种情况下,如果我这样做:
rf_model.predict(1) (assume letter 'a' is encoded as number 1)
模型预测结果returns
array([1])
那么我该怎么做:
rf_model.predict('a')
并获得类似 'female' 或 'male' 的结果,而不必输入数值并获得数值形式的结果?
只需使用您创建的 LabelEncoder
!由于您已经 fit
使用训练数据,您可以直接使用 transform
函数应用新数据。
In [2]: from sklearn.preprocessing import LabelEncoder
In [3]: label_encoder = LabelEncoder()
In [4]: label_encoder.fit_transform(['a', 'b', 'c'])
Out[4]: array([0, 1, 2])
In [5]: label_encoder.transform(['a'])
Out[5]: array([0])
与RandomForestClassifier
、
In [59]: from sklearn.ensemble import RandomForestClassifier
In [60]: X = ['a', 'b', 'c']
In [61]: y = ['male', 'female', 'female']
In [62]: X_encoded = label_encoder.fit_transform(X)
In [63]: rf_model = RandomForestClassifier()
In [64]: rf_model.fit(X_encoded[:, None], y)
Out[64]:
RandomForestClassifier(bootstrap=True, class_weight=None, criterion='gini',
max_depth=None, max_features='auto', max_leaf_nodes=None,
min_impurity_split=1e-07, min_samples_leaf=1,
min_samples_split=2, min_weight_fraction_leaf=0.0,
n_estimators=10, n_jobs=1, oob_score=False, random_state=None,
verbose=0, warm_start=False)
In [65]: x = ['a']
In [66]: x_encoded = label_encoder.transform(x)
In [67]: rf_model.predict(x_encoded[:, None])
Out[67]:
array(['male'],
dtype='<U6')
如您所见,如果您使用它们来拟合分类器,则可以直接从分类器中获取字符串输出 'male', 'female'
。