Talos 多 GPU 功能
Talos multi gpu feature
我正在尝试 运行 Talos 超参数搜索我的 CNN。拥有 6 个 GPU 可以 运行 更快地进行实验，Talos 功能 multi_gpu 似乎很方便。
my_new_model = multi_gpu(my_new_model, gpus=6)
my_new_model.compile(...)
需要在 model.compile 之前调用函数。
但是好像还是只有一个job是同时执行的。
我希望同时处理具有 6 条可能路径的实验。现在还在一个接一个工作。
有什么想法吗？
multi_gpu 用于在一台机器上的多个 GPU 上执行单个任务 运行。
根据您在数据集、体系结构、参数等方面所做的工作，这可以显着减少实验时间。尽管仍然执行排列 "one by one"，但每个排列的执行时间更短。
我正在尝试 运行 Talos 超参数搜索我的 CNN。拥有 6 个 GPU 可以 运行 更快地进行实验，Talos 功能 multi_gpu 似乎很方便。
my_new_model = multi_gpu(my_new_model, gpus=6)
my_new_model.compile(...)
需要在 model.compile 之前调用函数。
但是好像还是只有一个job是同时执行的。 我希望同时处理具有 6 条可能路径的实验。现在还在一个接一个工作。
有什么想法吗？
multi_gpu 用于在一台机器上的多个 GPU 上执行单个任务 运行。
根据您在数据集、体系结构、参数等方面所做的工作，这可以显着减少实验时间。尽管仍然执行排列 "one by one"，但每个排列的执行时间更短。