平行复印

Parallel copying

我需要一个可以并行复制到多台服务器的程序。我的数据大约有 70 GB,我需要将其复制到许多其他服务器。如果我对一台服务器执行 rsync,时间大约是 90 分钟,rsync 到 2 个服务器大约需要 120 分钟,而 rsync 到 3 个服务器可能需要 200 分钟。但是每次rsync进程都读取目录,所以当rsync很多的时候,读取速度很慢。 Linux 上是否有任何程序可以进行并行复制 - 它应该一次读取目录中的文件并将该文件同时复制到多台服务器。或者可能有人在 python 上这样做过?还是 tee 命令之类的东西?

多次传输时间较长的原因是网络是瓶颈,因此将数据传输到多台机器会导致发送方网络接口争用。

您的问题可以通过使用 multicast 传输协议来解决。多播允许一个人通过一次传输将数据发送到多个接收者,这消除了发送者网络接口上的争用。

选项包括uftp, mrsync, and udpcast