绘制单个 XGBoost 决策树

Question

我正在使用 https://machinelearningmastery.com/visualize-gradient-boosting-decision-trees-xgboost-python/ 上的方法绘制 XGBoost 决策树

from numpy import loadtxt
from xgboost import XGBClassifier
from xgboost import plot_tree
import matplotlib.pyplot as plt
# load data
dataset = loadtxt('pima-indians-diabetes.csv', delimiter=",")
# split data into X and y
X = dataset[:,0:8]
y = dataset[:,8]
# fit model no training data
model = XGBClassifier()
model.fit(X, y)
# plot single tree
plot_tree(model)
plt.show()

因为我有150个特征，所有分割点的图看起来都很小，如何画一个清晰的或保存在本地或任何其他地方ways/ideas可以清楚地表明这棵“树”非常受欢迎

Answer 1

我最近遇到了同样的问题，我发现的唯一方法是尝试不同的图形大小（它仍然可以是大图形的蓝色。例如，要绘制第 4 棵树，请使用：

fig, ax = plt.subplots(figsize=(30, 30))
xgb.plot_tree(model, num_trees=4, ax=ax)
plt.show()

要保存它，你可以这样做

plt.savefig("temp.pdf")

此外，每棵树分隔两个 class，因此您拥有与 class 一样多的树。

Answer 2

要添加到 Serk 的回答中，您还可以在显示之前调整图形大小：

# ...
plot_tree(model)
plt.gcf().set_size_inches(18.5, 10.5)
plt.show()

Answer 3

您可以尝试使用 to_graphviz 方法 - 对我来说，它会产生更清晰的图像。

xgb.to_graphviz(xg_reg, num_trees=0, rankdir='LR')

但是，您很可能会对输出的大小有疑问。

在这种情况下，请执行以下操作：

Answer 4

我在 github 上找到了 this workaround，它也提供了更好的图像，但缺点是您必须在之后打开 .png 文件。

xgb.plot_tree(bst, num_trees=2)
fig = matplotlib.pyplot.gcf()
fig.set_size_inches(150, 100)
fig.savefig('tree.png')

绘制单个 XGBoost 决策树

Plot a Single XGBoost Decision Tree

python

matplotlib

xgboost