将 TFIDF 特征向量从 sklearn 传递到 SGDClassifier

Question

import numpy as np
from sklearn import linear_model
X = np.array([[-1, -1], [-2, -1], [1, 1], [2, 1]])
Y = np.array(['C++', 'C#', 'java','python'])
clf = linear_model.SGDClassifier()
clf.fit(X, Y)
print (clf.predict([[1.7, 0.7]]))
#python

我试图通过给出一个测试用例并在 X 的训练数据上对其进行训练来预测数组 Y 的值，现在我的问题是，我想将训练集 X 更改为 TF-IDF Feature Vectors，这怎么可能？隐隐约约的，我想做这样的事情

import numpy as np
from sklearn import linear_model
X = np.array_str([['abcd', 'efgh'], ['qwert', 'yuiop'], ['xyz','abc'],['opi', 'iop']])
Y = np.array(['C++', 'C#', 'java','python'])
clf = linear_model.SGDClassifier()
clf.fit(X, Y)

Answer 1

您应该查看 scikit-learn 中的 TfidfVectorizer。我假设 X 是要分类的文本列表。

from sklearn.feature_extraction.text import TfidfVectorizer
vectorizer = TfidfVectorizer()
X_train = vectorizer.fit_transform(X)

然后使用 X_train 作为新的 X 来训练你的分类器。

clf = linear_model.SGDClassifier()
clf.fit(X_train, Y)

将 TFIDF 特征向量从 sklearn 传递到 SGDClassifier

Passing TFIDF Feature Vector to a SGDClassifier from sklearn

python

tf-idf

scikit-learn