使用预训练模型时需要 gpu 吗?

Do I need gpu while working with pretrained model?

我已经在使用 Google Colab 来训练我的模型。所以我不会用自己的GPU来训练。我想问一下,在使用预训练模型时,GPU 和 CPU 之间是否存在性能差异。我已经使用 Google Colab GPU 训练了一个模型,并与我自己的本地 CPU 一起使用。我应该使用 GPU 进行测试吗?

这取决于您需要做多少预测。通常在训练中你会进行很多计算,因此 GPU 的并行化会缩短整体训练时间。通常,在使用经过训练的模型时,您只需要对每个时间单位进行稀疏预测。在这种情况下 CPU 方法应该没问题。但是,如果您需要在训练期间进行尽可能多的预测,那么 GPU 将是有益的。当您的模型必须适应不断变化的环境输入时,强化训练尤其如此。