如何在chainer v2.1.0中使用mixlinkMulti-CPU的并行计算
How to use mix link Multi-CPU of parallel computing in chainer v2.1.0
在我的研究中。我在神经网络中写了2层,最下面的第一层是在GPU上运行的RNN,最上面的第二层是CPU(算法模型性质更适合CPU),我在CPU in chainer self-defined Link.
但是,CPU 层很慢,我等不及论文提交的截止日期了。所以想用这一层的并行计算。
实现并行此 link 的最佳实践和快速方法是什么?
首先,ChainerMN(不是Chainer)不支持单层加速计算的直接方式。
我建议考虑以下选项。
- "CPU-friendly" 层也使用 GPU
- 使用Cython或其他加速技术
- 在 CPU
上使用多线程
谢谢。
在我的研究中。我在神经网络中写了2层,最下面的第一层是在GPU上运行的RNN,最上面的第二层是CPU(算法模型性质更适合CPU),我在CPU in chainer self-defined Link.
但是,CPU 层很慢,我等不及论文提交的截止日期了。所以想用这一层的并行计算。
实现并行此 link 的最佳实践和快速方法是什么?
首先,ChainerMN(不是Chainer)不支持单层加速计算的直接方式。
我建议考虑以下选项。
- "CPU-friendly" 层也使用 GPU
- 使用Cython或其他加速技术
- 在 CPU 上使用多线程
谢谢。