如何在 matconvnet 中通过回归更改 softmaxlayer

Question

我正在尝试使用单一输出训练 MNIST 数据集。这意味着当我给一个 28*28 输入（图像）时，模型给了我们一个公正的数字。例如，我给“5”，结果模型给我 4.9、5、5.002 或接近 5。所以我有一些文件是红色的。人们告诉 softmaxlayer 必须用回归层来改变。为了这样做。我正在使用 matconvnet 库及其 mnist 示例。我改变了我的网络并编写了回归层损失函数。这些是我的代码：

net.layers = {} ;
net.layers{end+1} = struct('type', 'conv', ...
                           'weights', {{f*randn(5,5,1,20, 'single'), zeros(1, 20, 'single')}}, ...
                           'stride', 1, ...
                           'pad', 0) ;
net.layers{end+1} = struct('type', 'pool', ...
                           'method', 'max', ...
                           'pool', [2 2], ...
                           'stride', 2, ...
                           'pad', 0) ;
net.layers{end+1} = struct('type', 'conv', ...
                           'weights', {{f*randn(5,5,20,50, 'single'),zeros(1,50,'single')}}, ...
                           'stride', 1, ...
                           'pad', 0) ;
net.layers{end+1} = struct('type', 'pool', ...
                           'method', 'max', ...
                           'pool', [2 2], ...
                           'stride', 2, ...
                           'pad', 0) ;
net.layers{end+1} = struct('type', 'conv', ...
                           'weights', {{f*randn(4,4,50,500, 'single'),  zeros(1,500,'single')}}, ...
                           'stride', 1, ...
                           'pad', 0) ;
net.layers{end+1} = struct('type', 'relu') ;
net.layers{end+1} = struct('type', 'conv', ...
                           'weights', {{f*randn(1,1,500,1, 'single'), zeros(1,1,'single')}}, ...
                           'stride', 1, ...
                           'pad', 0) ;                         
 net.layers{end+1} = struct('type', 'normloss');

这是回归损失函数：

function Y = vl_normloss(X,c,dzdy)
size(X)%1 1 1 100
size(c)%1 100

if nargin <= 2

Y = 0.5*sum((squeeze(X)'-c).^2);
size(Y)%1 1
Y      % 1.7361e+03
else
size(Y)
Y = +((squeeze(X)'-c))*dzdy;
Y = reshape(Y,size(X));
end

我把opts.errorFunction = 'multiclass' ;改成了'none' 我还添加

case 'normloss'
      res(i+1).x = vl_normloss(res(i).x,l.class) ;

到vl_simplenn脚本

但是当我运行训练时出现这个错误

Error using vl_nnconv DEROUTPUT dimensions are incompatible with X and FILTERS.

Error in vl_simplenn (line 415) [res(i).dzdx, dzdw{1}, dzdw{2}] = ...

我需要做什么来解决这个问题？谢谢

Answer 1

我找到了解决方案。我犯了一个错误。 vl_simplenn 脚本中有 2 行必须更改，但我只更改了一行。此代码有效。

Answer 2

我有一个问题。

net.layers{end+1} = struct('type', 'conv', ...
                           'weights', {{f*randn(1,1,500,1, 'single'), zeros(1,1,'single')}}, ...
                           'stride', 1, ...
                           'pad', 0) ;                         
 net.layers{end+1} = struct('type', 'normloss');

在转换层中，输出 [1 1 500 1] 显示了 1x500 的描述符？在损失层中，您如何使用该值？损失层 softmax 不应该预测 class 概率然后你找到对应的最高概率 class 吗？或者在这种情况下 [1 1 500 1] 的输出是概率？

如何在 matconvnet 中通过回归更改 softmaxlayer

how to change softmaxlayer with regression in matconvnet

regression

loss

mnist

deep-learning

matconvnet