NLP 的 Gridsearch - 如何结合 CountVec 和其他功能?

Gridsearch for NLP - How to combine CountVec and other features?

我正在做一个关于情感分析的基础 NLP 项目,我想使用 GridsearchCV 来优化我的模型。

下面的代码显示了我正在使用的示例数据框。 'Content' 是要传递给 CountVectorizer 的列,'label' 是要预测的 y 列,feature_1、feature_2 也是我希望包含在我的模型中的列。

'content': 'Got flat way today Pot hole Another thing tick crap thing happen week list',
'feature_1': '1', 
'feature_2': '34', 
'label':1}, 
{'content': 'UP today Why doe head hurt badly',
'feature_1': '5', 
'feature_2': '142', 
'label':1},
{'content': 'spray tan fail leg foot Ive scrubbing foot look better ',
 'feature_1': '7', 
'feature_2': '123', 
'label':0},])

我正在关注 Whosebug 的回答:

from sklearn.pipeline import FeatureUnion, Pipeline
from sklearn.base import TransformerMixin, BaseEstimator
class CustomFeatureExtractor(BaseEstimator, TransformerMixin):
    def __init__(self, feature_1=True, feature_2=True):
        self.feature_1=feature_1
        self.feature_2=feature_2
        
    def extractor(self, tweet):
        features = []

        if self.feature_2:
            
            features.append(df['feature_2'])

        if self.feature_1:
            features.append(df['feature_1'])
        
          
        return np.array(features)

    def fit(self, raw_docs, y):
        return self

    def transform(self, raw_docs):
        
        return np.vstack(tuple([self.extractor(tweet) for tweet in raw_docs]))

下面是我试图将我的数据框放入的网格搜索:

lr = LogisticRegression()

# Pipeline
pipe = Pipeline([('features', FeatureUnion([("vectorizer", CountVectorizer(df['content'])),
                                            ("extractor", CustomFeatureExtractor())]))
                 ,('classifier', lr())
                ])
But yields results: TypeError: 'LogisticRegression' object is not callable

想知道是否还有其他更简单的方法来做到这一点?

我已经参考了下面的主题,但是没有用:

你不能做lr()LogisticRegression确实不可调用,它有一些方法用于lr对象。

试试看(lr 不带括号):

lr = LogisticRegression()
pipe = Pipeline([('features', FeatureUnion([("vectorizer", CountVectorizer(df['content'])),
                                            ("extractor", CustomFeatureExtractor())]))
                 ,('classifier', lr)
                ])

您的错误消息应该会消失。