深度学习硬件

Hardware for Deep Learning

我有几个关于我正在开始的深度学习项目的硬件问题,我打算将 pyTorch 用于神经网络。

我正在考虑在 z390 上购买第 8 代 CPU(我会等一个月看看价格是否会在第 9 代 CPU 可用后下降)所以我仍然得到更便宜的 CPU 可以稍后升级。

问题 1) CPU 内核是否有益,获得最新的 Intel 芯片是否值得额外的内核,如果 CPU 上的内核有帮助,我是否应该选择 AMD?

我也在考虑买个 1080ti,等我熟练了再加两个 2080ti,我会买更多的,但是很难找到适合 4 的板子。

问题2)混合GPU的效果并行处理,是不是先入个2080ti,以后再买2个?这个问题的 b 部分对通道速度很重要,如果您使用多个插槽,我是否应该花更多的钱在一块不会降低 PCIe 插槽速度的板上。

问题 3) 更多 RAM? 32GB 似乎足够了。所以 2x16gb 坚持一块可以有 4 个插槽的板,最多 64gb。

运行 多 GPU 时的问题还在于可用 PCIe 通道的数量。如果您可以选择最多 4 个 GPU,我会选择 AMD Threadrippers 用于 64 条 PCIe 通道。

对于一般的机器学习,核心和线程数非常重要,因此 TR 仍然是一个不错的选择,当然取决于预算。

很少有人提到 运行 每个 GPU 上的一个实例可能更有趣,如果你这样做,丢失 GPU 不是问题。

32GB 内存似乎不错,如果您的 CPU 确实不支持四通道,则无需购买 4 根内存条。