CNN 和 Decision 有什么区别 Tree/Forest

What is the difference between a CNN and a Decision Tree/Forest

当这篇论文的作者 J. Welbl http://hci.iwr.uni-heidelberg.de/publications/mip/techrep/welbl_14_casting.pdf 建议将卷积神经网络与决策树合并时,我正在阅读一篇论文。这是从上述论文中截取的图片:

这让我思考,但我无法回答这两种方法之间的区别。由于在 CNN 中使用反向传播和梯度下降来训练决策,这也可以很容易地应用于决策树,因此输出应该是相同的?

我是对还是完全错了?

事实上,决策树和 CNN 几乎没有共同点。这些模型在构建方式上完全不同(特别是你不通过梯度下降训练DT,它们不能表示特征之间的线性关系,等等......),训练和一般特征。你可以简单地 "convert" DT 到一个神经网络(但反过来不行!),但是你可以用(几乎)任何模型这样做,这并不意味着一切都是神经网络。这只能说明一般的神经网络有多模糊。

现在更详细。首先,论文是在谈论 ANN(人工神经网络),而不是 CNN(卷积神经网络)。其次 - 就可计算性而言,ANN 是如此通用,以至于您可以将每个 non-looping/recurrent 计算表示为 ANN。此外,一旦你进入循环网络,你实际上可以证明它们是图灵完备的(因此每个算法都可以表示为 RNN)。唯一缺少的是 为什么 。通常这样做是没有意义的。作者在这里简单地声称,他们可以进一步微调以 ANN 表示的 RF,老实说,所提供的结果几乎没有说服力(通过忘记 RF 本身,你失去了它的极端简单性、易于并行化、少量超参数、易于使用等)。特别是 - 您可以通过多种方式微调 RF,显然通过拟合下一个超参数(他们这样做)并对其进行验证 - 您将提高分数。但是这里显示的内容没有深度(并且肯定没有暗示 RF 是神经网络 :-)),正如我所说的 - 你可以将 任何 non-looping/recurrent 模型视为 ANN,但并不代表某个特定模型(如DT)就是ANN