如何 运行 在 2 个 GPU 上进行流式训练?

How to run Flow training on 2 GPU(s)?

从 Wouter J 转发。

如何运行 在 GPU 上进行流训练?

我目前正在尝试让 ppo_runner 基准与我的 2 个 GPU 一起工作。但是,我找不到任何方法来利用这些资源。 我需要更改什么代码才能使用 GPU?

Flow 团队转发

也许一个好的起点是学习如何通过 Ray 使用多个 GPU:

https://ray.readthedocs.io/en/latest/using-ray-with-gpus.html

学习如何将多个 GPU 与 ray 一起使用将使您也可以使用多个 GPU 进行训练,因为我们使用 Ray RLlib 进行训练。 尽管是一个公平的警告:除非你的问题非常适合 GPU(大图像输入、大神经网络),否则通常在 multi-thread CPU(例如 64 线程 Xeon)上训练要快得多而不是在多个 GPU 上训练。