在 Matconvnet 中，当 Batchnormalization=false 为 true 时，批量标准化是否有效

Question

我正在使用 matconvnet 库。在 MNIST 示例中，默认参数 batchnormalization=true。但是 VL_NNBNORM() 函数什么都没有（只有注释行）。这样做有用吗？或者我必须更改 vl_nnbnorm 功能吗？ 我的意思是，如果我将 batchnormalization=false 更改为 true，就足够了吗？ 谢谢..

Answer 1

是的，够了。如果你看到更快的收敛，这意味着 batch norm 正在工作。 vl_nnbnorm.m 没有任何内容，因为它调用了一个 mex 文件。这就是 Matlab 调用 mex 文件的方式 --- 你有一个同名的虚拟 .m 文件。