我应该在 Google 云平台 (GCP) 上使用哪个 GPU
Which GPU should I use on Google Cloud Platform (GCP)
现在,我正在写我的硕士论文,我需要在 GCP 上训练一个巨大的 Transformer 模型。而训练深度学习模型最快的方法就是使用 GPU。所以,我想知道 我应该使用 GCP 提供的 GPU 中的哪一个? 目前可用的是:
- NVIDIA® A100
- NVIDIA® T4
- NVIDIA® V100
- NVIDIA® P100
- NVIDIA® P4
- NVIDIA® K80
这完全取决于您要寻找的特征。
首先,让我们收集一些有关这些不同 GPU 型号的信息,看看哪一款最适合您。您可以 google 每个模型的名称并查看其特征。我这样做了,我创建了以下 table:
Model
FP32 (TFLOPS)
Price
TFLOPS/dollar
Nvidia A100
19.5
2.933908
6.646425178
Nvidia Tesla T4
8.1
0.35
23.14285714
Nvidia Tesla P4
5.5
0.6
9.166666667
Nvidia Tesla V100
14
2.48
5.64516129
Nvidia Tesla P100
9.3
1.46
6.369863014
Nvidia Tesla K80
8.73
0.45
19.4
在前面的table中,你看到可以了:
FP32
:代表32位浮点数,是衡量这款显卡单精度浮点运算速度的指标。它以 TFLOPS 或 *Tera 浮点运算... 越高越好。
Price
:GCP 的每小时价格。
TFLOPS/Price
:一美元能做多少手术。
由此table可以看出:
Nvidia A100
最快。
Nvidia Tesla P4
是最慢的。
Nvidia A100
最贵
Nvidia Tesla T4
最便宜
Nvidia Tesla T4
每美元操作数最高。
Nvidia Tesla V100
的每美元操作数最低。
你可以在下图中清楚地观察到:
希望对您有所帮助!
现在,我正在写我的硕士论文,我需要在 GCP 上训练一个巨大的 Transformer 模型。而训练深度学习模型最快的方法就是使用 GPU。所以,我想知道 我应该使用 GCP 提供的 GPU 中的哪一个? 目前可用的是:
- NVIDIA® A100
- NVIDIA® T4
- NVIDIA® V100
- NVIDIA® P100
- NVIDIA® P4
- NVIDIA® K80
这完全取决于您要寻找的特征。
首先,让我们收集一些有关这些不同 GPU 型号的信息,看看哪一款最适合您。您可以 google 每个模型的名称并查看其特征。我这样做了,我创建了以下 table:
Model | FP32 (TFLOPS) | Price | TFLOPS/dollar |
---|---|---|---|
Nvidia A100 | 19.5 | 2.933908 | 6.646425178 |
Nvidia Tesla T4 | 8.1 | 0.35 | 23.14285714 |
Nvidia Tesla P4 | 5.5 | 0.6 | 9.166666667 |
Nvidia Tesla V100 | 14 | 2.48 | 5.64516129 |
Nvidia Tesla P100 | 9.3 | 1.46 | 6.369863014 |
Nvidia Tesla K80 | 8.73 | 0.45 | 19.4 |
在前面的table中,你看到可以了:
FP32
:代表32位浮点数,是衡量这款显卡单精度浮点运算速度的指标。它以 TFLOPS 或 *Tera 浮点运算... 越高越好。Price
:GCP 的每小时价格。TFLOPS/Price
:一美元能做多少手术。
由此table可以看出:
Nvidia A100
最快。Nvidia Tesla P4
是最慢的。Nvidia A100
最贵Nvidia Tesla T4
最便宜Nvidia Tesla T4
每美元操作数最高。Nvidia Tesla V100
的每美元操作数最低。
你可以在下图中清楚地观察到:
希望对您有所帮助!