决策树的深度取决于什么?

What does depth of decision tree depend on?

下面是 DecisionTreeClassifier 的参数:max_depth

http://scikit-learn.org/stable/modules/generated/sklearn.tree.DecisionTreeClassifier.html

max_depth : int or None, optional (default=None)

    The maximum depth of the tree. If None, then nodes are expanded until all leaves are pure or until all leaves contain less than min_samples_split samples.

我一直认为决策树的深度应该等于或小于给定数据集的特征(属性)的数量。如果我们在提到的那个参数的输入之前找到 pure 类 怎么办?它是停止分裂还是进一步分裂直到提到的输入?

在分裂时是否可以在决策树的两个不同级别使用相同的属性?

如果决策树的特征数量非常多,那么它会变得非常非常大。要回答您的问题,是的,如果找到纯 class 变量,它将停止。 这是决策树倾向于过度拟合的另一个原因。

您想在使用 Random Forest 时使用 max_depth 参数,它不会 select 任何特定树的所有特征,因此预计所有树都不会生长到最大可能深度,这反过来又需要修剪。决策树是弱学习者,在 RandomForest 中,它们与 max_depth 一起参与投票。有关这些 RF 和 DT 关系的更多详细信息可以在互联网上轻松搜索。发表了一系列文章。

所以,当您拥有大量特征时,通常您想使用 max_depth。此外,在实际实现中,您希望使用 RandomForest 而不是单独使用 DecisionTree。