CatBoost LossFunctionChange 中的负特征重要性值

Question

我正在使用 CatBoost 进行排名任务。我使用 QueryRMSE 作为我的损失函数。我注意到某些特征的特征重要性值为负，我不知道如何解释它们。

它在文档中说，第 i 个特征重要性计算为损失（排除第 i 个特征的模型）- 损失（模型）之间的差异。

负的特征重要性值是否意味着该特征使我的损失增加？ 那么这意味着什么？

Answer 1

负特征重要性值意味着该特征使损失上升。这意味着您的模型没有很好地利用此功能。这可能意味着您的模型欠拟合（没有足够的迭代并且没有充分使用该功能）或者该功能不好，您可以尝试删除它以提高最终质量。