SVC分类器的onevsrestclassifier如何实现grid searchcv

Question

我想在 OnevsRest 分类器上进行网格搜索，我的模型是 SVC，但在使用网格搜索时显示以下错误 -- 如何解决？？

代码-

from sklearn.model_selection import GridSearchCV 

# defining parameter range 
param_grid = {'C': [0.1, 1, 10, 100, 1000],  
              'gamma': [1, 0.1, 0.01, 0.001, 0.0001], 
              'kernel': ['rbf']}  
svc_model_orc = OneVsRestClassifier(SVC())

grid = GridSearchCV(svc_model_orc, param_grid, refit = True, verbose = 3) 

# fitting the model for grid search 
grid.fit(X_train, y_train) 

# svc_pred_train=grid.predict(X_train)
# svc_pred_test = grid.predict(X_valid)

# print(accuracy_score(y_train, svc_pred_train))
# print(f1_score(y_train, svc_pred_train, average='weighted'))

# print(accuracy_score(y_valid, svc_pred_test))
# print(f1_score(y_valid, svc_pred_test, average='weighted'))

错误-

ValueError: Invalid parameter C for estimator OneVsRestClassifier(estimator=SVC(C=1.0, cache_size=200, class_weight=None,
                                  coef0=0.0, decision_function_shape='ovr',
                                  degree=3, gamma='auto_deprecated',
                                  kernel='rbf', max_iter=-1, probability=False,
                                  random_state=None, shrinking=True, tol=0.001,
                                  verbose=False),
                    n_jobs=None). Check the list of available parameters with `estimator.get_params().keys()`.

Answer 1

由于您正在对嵌套估计器执行 GridSearch（即使您只有一个，OneVsRestClassifier 适合每个 class 的 classifier），您需要使用 estimator__some_parameter.

语法定义参数

在有嵌套对象的情况下，例如在管道中，这是语法 GridSerach 期望访问不同模型的参数，即 <component>__<parameter> 。在这种情况下，您将为每个模型命名，然后将它们的参数设置为 SVC__some_parameter，例如 SVC 参数。但是对于这种情况，classifier在estimator下，注意实际模型是通过estimator属性访问的：

print(svc_model_orc.estimator)

SVC(C=1.0, break_ties=False, cache_size=200, class_weight=None, coef0=0.0,
    decision_function_shape='ovr', degree=3, gamma='scale', kernel='rbf',
    max_iter=-1, probability=False, random_state=None, shrinking=True,
    tol=0.001, verbose=False)

所以在这种情况下，您应该将参数 grid 设置为：

param_grid = {'estimator__C': [0.1, 1, 10, 100, 1000],  
              'estimator__gamma': [1, 0.1, 0.01, 0.001, 0.0001], 
              'estimator__kernel': ['rbf']}

SVC分类器的onevsrestclassifier如何实现grid searchcv

How to implement grid searchcv for onevsrestclassifier of SVC classifier

classification

machine-learning

svc

grid-search

multiclass-classification