如何在一个通道上使用 AlexNet

Question

我是 pytorch 的新手，遇到了 AlexNet 中的频道问题。我将它用于“gta san andreas 自动驾驶汽车”项目，我从具有一个通道的黑白图像中收集数据集并尝试使用脚本训练 AlexNet：

from AlexNetPytorch import*
import torchvision
import torchvision.transforms as transforms
import torch.optim as optim
import torch.utils.data
import numpy as np
import torch
from IPython.core.debugger import set_trace

AlexNet = AlexNet()

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(AlexNet.parameters(), lr=0.001, momentum=0.9)

all_data = np.load('training_data.npy')
inputs= all_data[:,0]
labels= all_data[:,1]
inputs_tensors = torch.stack([torch.Tensor(i) for i in inputs])
labels_tensors = torch.stack([torch.Tensor(i) for i in labels])

data_set = torch.utils.data.TensorDataset(inputs_tensors,labels_tensors)
data_loader = torch.utils.data.DataLoader(data_set, batch_size=3,shuffle=True, num_workers=2)




if __name__ == '__main__':
 for epoch in range(8):
  runing_loss = 0.0
  for i,data in enumerate(data_loader , 0):
     inputs= data[0]
     inputs = torch.FloatTensor(inputs)
     labels= data[1]
     labels = torch.FloatTensor(labels)
     optimizer.zero_grad()
     # set_trace()
     inputs = torch.unsqueeze(inputs, 1)
     outputs = AlexNet(inputs)
     loss = criterion(outputs , labels)
     loss.backward()
     optimizer.step()

     runing_loss +=loss.item()
     if i % 2000 == 1999:    # print every 2000 mini-batches
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))
            running_loss = 0.0
 print('finished')

我正在使用来自 link 的 AlexNet： https://github.com/pytorch/vision/blob/master/torchvision/models/alexnet.py

但是从 :

更改了第 18 行

nn.Conv2d(3, 64, kernel_size=11, stride=4, padding=2)

收件人：

nn.Conv2d(1, 64, kernel_size=11, stride=4, padding=2)

因为我在训练图像中只使用了一个通道，但是我得到了这个错误：

 File "training_script.py", line 44, in <module>
    outputs = AlexNet(inputs)
  File "C:\Users\Mukhtar\Anaconda3\lib\site-packages\torch\nn\modules\module.py", line 477, in __call__
    result = self.forward(*input, **kwargs)
  File "C:\Users\Mukhtar\Documents\AI_projects\gta\AlexNetPytorch.py", line 34, in forward
    x = self.features(x)
  File "C:\Users\Mukhtar\Anaconda3\lib\site-packages\torch\nn\modules\module.py", line 477, in __call__
    result = self.forward(*input, **kwargs)
  File "C:\Users\Mukhtar\Anaconda3\lib\site-packages\torch\nn\modules\container.py", line 91, in forward
    input = module(input)
  File "C:\Users\Mukhtar\Anaconda3\lib\site-packages\torch\nn\modules\module.py", line 477, in __call__
    result = self.forward(*input, **kwargs)
  File "C:\Users\Mukhtar\Anaconda3\lib\site-packages\torch\nn\modules\pooling.py", line 142, in forward
    self.return_indices)
  File "C:\Users\Mukhtar\Anaconda3\lib\site-packages\torch\nn\functional.py", line 396, in max_pool2d
    ret = torch._C._nn.max_pool2d_with_indices(input, kernel_size, stride, padding, dilation, ceil_mode)
RuntimeError: Given input size: (256x1x1). Calculated output size: (256x0x0). Output size is too small at c:\programdata\miniconda3\conda-bld\pytorch-cpu_1532499824793\work\aten\src\thnn\generic/SpatialDilatedMaxPooling.c:67

我不知道出了什么问题，像这样改变通道大小是不是错了，如果错了，请你带我到一个单通道工作的神经网络，就像我说的那样pytorch 的新手，我不想自己写 nn。

Answer 1

您的错误与使用灰度图像而不是 RGB 无关。您的错误是关于输入的空间维度：虽然 "forwarding" 通过网络的输入图像，其大小（在特征 space 中）变为零 - 这是你看到的错误。您可以使用 this nice guide 查看每个层的输出大小 (conv/pooling) 作为内核大小、步幅和填充的函数。
Alexnet 期望其输入图像为 224 x 224 像素 - 确保您的输入大小相同。

您忽略的其他事项：

您正在使用 Alexnet 架构，但您将其初始化为随机权重而不是使用预训练权重（在 imagenet 上训练）。要获得 alexnet 的 trained 副本，您需要像这样实例化网络
```
AlexNet = alexnet(pretrained=True)
```
一旦决定使用预训练网络，就无法将其第一层从 3 个输入通道更改为三个（训练的权重根本不适合）。最简单的解决方法是通过简单地重复单个通道三次来使输入图像 "colorful"。有关详细信息，请参阅 repeat()。

Answer 2

问题出在我输入的大小上，当我应该给它一个 (224x224) 时我给了它一个 (32x32) - 我是 AlexNet 的新手所以我不知道它需要那个大小 - . 我将我的图像重塑为 (224x224)，现在我正在训练 CNN。

如何在一个通道上使用 AlexNet

How to use AlexNet with one channel

image-processing

neural-network

computer-vision

pytorch

torchvision