XGBoost

Question

我有一个关于 xgboost 和 multiclass 的问题。我没有使用 sklearn 包装器，因为我总是为某些参数而苦恼。我想知道是否有可能获得概率向量加上 softmax 输出。以下是我的代码：

param = {}
param['objective'] = 'multi:softmax'
param['booster'] = 'gbtree'
param['eta'] = 0.1
param['max_depth'] = 30
param['silent'] = 1
param['nthread'] = 4
param['num_round'] = 40
param['num_class'] = len(np.unique(label)) + 1   
model = xgb.train(param, dtrain)                                    
# predict                                                                                   
pred = model.predict(dtest)

我希望能够调用像 predict_proba 这样的函数，但我不知道是否可行。很多答案（例如：https://datascience.stackexchange.com/questions/14527/xgboost-predict-probabilities）建议移动到 sklearn 包装器，但是，我想继续使用普通的训练方法。

Answer 1

如果您使用 param['objective'] = 'multi:prob' 而不是 param['objective'] = 'multi:softmax'，classifier 的结果是每个 class 的概率。

在此处查看文档： https://xgboost.readthedocs.io/en/latest/parameter.html#learning-task-parameters

XGBoost - 在 multi:softmax 函数后获得概率

XGBoost - get probabilities after multi:softmax function

python

xgbclassifier