多层感知器,在 Python 中可视化决策边界 (2D)
Multilayer-perceptron, visualizing decision boundaries (2D) in Python
我已经为二进制分类编写了多层感知程序。据我了解,一个隐藏层可以仅使用线作为决策边界(每个隐藏神经元一条线)来表示。这很有效,只需使用训练后产生的权重就可以很容易地绘制出来。
然而,随着更多层的添加,我不确定使用什么方法,可视化部分在教科书中很少涉及。我想知道,是否有一种直接的方法可以将权重矩阵从不同层转换到这个非线性决策边界(假设 2D 输入)?
非常感谢,
绘制决策边界(线性或非线性分类器)的一种方法是在均匀网格中采样点并将它们提供给分类器。假设 X
是您的数据,您可以创建一个统一的点网格,如下所示:
h = .02 # step size in the mesh
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, h),
np.arange(y_min, y_max, h))
然后,您将这些坐标输入您的感知器以捕捉它们的预测:
Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
假设 clf
是您的感知器,np.c_
从均匀采样点创建特征,将它们提供给分类器并在 Z
中捕获它们的预测。
最后,将决策边界绘制为等高线图(使用 matplotlib):
Z = Z.reshape(xx.shape)
plt.contourf(xx, yy, Z, cmap=plt.cm.Paired, alpha=0.8)
并且可以选择绘制您的数据点:
plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.Paired)
Fully working example, and credits for the example goes to scikit-learn(顺便说一句,它是一个很棒的机器学习库,实现了一个功能完备的感知器)。
我已经为二进制分类编写了多层感知程序。据我了解,一个隐藏层可以仅使用线作为决策边界(每个隐藏神经元一条线)来表示。这很有效,只需使用训练后产生的权重就可以很容易地绘制出来。
然而,随着更多层的添加,我不确定使用什么方法,可视化部分在教科书中很少涉及。我想知道,是否有一种直接的方法可以将权重矩阵从不同层转换到这个非线性决策边界(假设 2D 输入)?
非常感谢,
绘制决策边界(线性或非线性分类器)的一种方法是在均匀网格中采样点并将它们提供给分类器。假设 X
是您的数据,您可以创建一个统一的点网格,如下所示:
h = .02 # step size in the mesh
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, h),
np.arange(y_min, y_max, h))
然后,您将这些坐标输入您的感知器以捕捉它们的预测:
Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
假设 clf
是您的感知器,np.c_
从均匀采样点创建特征,将它们提供给分类器并在 Z
中捕获它们的预测。
最后,将决策边界绘制为等高线图(使用 matplotlib):
Z = Z.reshape(xx.shape)
plt.contourf(xx, yy, Z, cmap=plt.cm.Paired, alpha=0.8)
并且可以选择绘制您的数据点:
plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.Paired)
Fully working example, and credits for the example goes to scikit-learn(顺便说一句,它是一个很棒的机器学习库,实现了一个功能完备的感知器)。