解读多人感知器的内部特征
Interpreting internal features of Multiplayer Perceptrons
我在医学影像分类任务（对超声扫描图像属于健康状况还是疾病状况进行分类）上训练了多人感知器。该网络由 2 个完全连接的隐藏层和 1 个输出单元组成。然后我想检查权重以查看图像中的哪些特征（例如，像素簇）对于网络区分不同 类 最重要。由于我的网络有两层隐藏权重，我如何使用这些权重来量化每个图像像素的重要性？有这方面经验的人能帮我找到正确的文献吗？谢谢。
"其他作者描述了几种寻找显着性的方法。其中包括灵敏度
基于方法 [4、5、6]、基于反卷积的方法 [7、8] 或更复杂的方法，如
分层相关性传播 (LRP) [9]."
来源：https://arxiv.org/pdf/1704.07911.pdf
他们正在做你想做的事，但有了 CNN，也许你应该从 MLP 转到 CNN，这似乎适合医学影像分类。
或者这篇论文可能更适合：
Randomization approach for understanding variable contributions in artificial neural networks
我在医学影像分类任务（对超声扫描图像属于健康状况还是疾病状况进行分类）上训练了多人感知器。该网络由 2 个完全连接的隐藏层和 1 个输出单元组成。然后我想检查权重以查看图像中的哪些特征（例如，像素簇）对于网络区分不同 类 最重要。由于我的网络有两层隐藏权重，我如何使用这些权重来量化每个图像像素的重要性？有这方面经验的人能帮我找到正确的文献吗？谢谢。
"其他作者描述了几种寻找显着性的方法。其中包括灵敏度 基于方法 [4、5、6]、基于反卷积的方法 [7、8] 或更复杂的方法，如 分层相关性传播 (LRP) [9]."
来源：https://arxiv.org/pdf/1704.07911.pdf
他们正在做你想做的事，但有了 CNN，也许你应该从 MLP 转到 CNN，这似乎适合医学影像分类。
或者这篇论文可能更适合：
Randomization approach for understanding variable contributions in artificial neural networks