R中不同分类器的集成结果
ensemble results from different classifier in R
我在不同的分类器中预测了我的数据。我想整合它们的结果以获得更好的最终结果。在 R 中可以吗?
让我们说:
SVMpredict=[1 0 0 1...]
RFpredict=[1 1 0 1 ...]
NNpredict=[0 0 0 1 ...]
是否可以通过 R 中的任何集成技术组合结果?如何?
谢谢
已编辑:
我 运行 我在不同样本上的分类器(我的案例 DNA 染色体)。在某些示例中,SVM 比其他示例(如 RF)效果更好。我想要一种通过考虑哪个分类器效果更好来集成结果的技术。
例如,如果我取输出概率的平均值并对它们进行四舍五入,它将被视为所有分类器在结果上都同样有效。但是当 SVM 工作得更好时,我们应该考虑 SVM 的结果(准确度为 86%)具有 60% 的重要性,RF 的重要性为 25%(准确度为 72%),神经网络为 15%(准确度为 64%)。 (这些数字只是用于说明的示例)
反正我能做到吗?
这取决于您的 classifier 的输出结构。
如果它是 {0,1} 结果,正如您提供的那样,您可以对预测进行平均,然后对其进行平均并四舍五入:
round((SVMpredict+RFpredict+NNpredict)/3)
如果您知道 classifier 的性能,加权平均值是个好主意 - 支持性能更好的那些。核心方法是通过 optim
函数优化权重。
如果您知道每个预测的 class 个概率,最好对它们进行平均而不是让它们只是投票(上面的 {0,1} 个输出案例)。
我在不同的分类器中预测了我的数据。我想整合它们的结果以获得更好的最终结果。在 R 中可以吗?
让我们说:
SVMpredict=[1 0 0 1...]
RFpredict=[1 1 0 1 ...]
NNpredict=[0 0 0 1 ...]
是否可以通过 R 中的任何集成技术组合结果?如何?
谢谢
已编辑:
我 运行 我在不同样本上的分类器(我的案例 DNA 染色体)。在某些示例中,SVM 比其他示例(如 RF)效果更好。我想要一种通过考虑哪个分类器效果更好来集成结果的技术。
例如,如果我取输出概率的平均值并对它们进行四舍五入,它将被视为所有分类器在结果上都同样有效。但是当 SVM 工作得更好时,我们应该考虑 SVM 的结果(准确度为 86%)具有 60% 的重要性,RF 的重要性为 25%(准确度为 72%),神经网络为 15%(准确度为 64%)。 (这些数字只是用于说明的示例)
反正我能做到吗?
这取决于您的 classifier 的输出结构。 如果它是 {0,1} 结果,正如您提供的那样,您可以对预测进行平均,然后对其进行平均并四舍五入:
round((SVMpredict+RFpredict+NNpredict)/3)
如果您知道 classifier 的性能,加权平均值是个好主意 - 支持性能更好的那些。核心方法是通过 optim
函数优化权重。
如果您知道每个预测的 class 个概率,最好对它们进行平均而不是让它们只是投票(上面的 {0,1} 个输出案例)。