我什至需要 GPU 来部署深度学习模型吗？
Do I need a GPU even to deploy a deep learning model?
我知道我确实需要 GPU 来训练模型，但即使在训练模型之后，我还需要 GPU 来部署相同的训练模型吗？
例如，我有一个带有自动驾驶仪的汽车模型来预测和做出决定......我是否也需要一个 GPU 来进行预测......
特别是在强化学习的情况下
严格来说，根据平台的不同，您通常不需要 GPU 进行训练，这只会比使用 GPU 而不是 CPU 慢得多。
部署模型不需要 GPU。大多数模型只是一个有组织的权重列表，模型使用这些权重对其输入进行操作。由于这通常不是特别昂贵的计算，除了非常大的模型，GPU 也不是部署所必需的，但可以为更大的模型提供一些性能优势。
我知道我确实需要 GPU 来训练模型，但即使在训练模型之后，我还需要 GPU 来部署相同的训练模型吗？ 例如，我有一个带有自动驾驶仪的汽车模型来预测和做出决定......我是否也需要一个 GPU 来进行预测......
特别是在强化学习的情况下
严格来说，根据平台的不同，您通常不需要 GPU 进行训练，这只会比使用 GPU 而不是 CPU 慢得多。
部署模型不需要 GPU。大多数模型只是一个有组织的权重列表，模型使用这些权重对其输入进行操作。由于这通常不是特别昂贵的计算，除了非常大的模型，GPU 也不是部署所必需的，但可以为更大的模型提供一些性能优势。