用于机器学习的外部 GPU

External GPU for machine learning

我拥有 MacBook Pro 15' Mid 2014,我正在考虑购买 Titan X GPU 来加速我的神经网络训练。 Titan 将作为外部 GPU 通过 Thunderbolt 2 连接。

我可以从该设置中获得什么样的性能 - 它是否与连接到主板时一样?雷电会限制GPU的速度吗?

在 CPU 和 GPU 之间传输数据在机器学习中成本很高,最终可能成为真正的瓶颈。因此使用外接显卡对性能影响很大,我坚决不推荐。

我在一台 4 岁的 Macbook Pro 上做了一些机器学习,它对我正在处理的数据集运行良好,但是如果你有一些繁重的数字运算要做,你不能用不错的独立显卡。

如果无法使用台式 PC,您还可以考虑使用在线服务,例如 Amazon EC2,它提供带 GPU 的服务器。

您还需要确保您使用的框架支持 GPU 加速(并非所有框架都支持)并且性能提升显着。

我最近通过 Thunderbolt 2 将 GTX 970 连接到我的 Macbook Pro 13 Late 2013。 与在我的桌面内使用 PCI-Express 插槽相比,GPU 基准测试产生了大约 70% 的性能,因为 Thunderbolt 2 确实将 PCI-Express 带宽速度限制为 X4,而在桌面应用程序中为 x16。

实现此目的最便宜的方法是使用 Akito 2 机箱,卸下外壳和后部以安装大型 GPU,然后您可以将普通 ATX 电源连接到显卡和 Akito 扩展坞电源资源。您必须为 PCI-Express 插槽提供 75 瓦功率才能使用外部显卡,因此无法使用 Akito 设备随附的电源组。

网上有很多关于Akito 2设定的资料,推荐你看看