从 S3 到 GCS 的定期传输

Recurring Transfer from S3 to GCS

我在 S3 上有一个存储桶,我想备份到 GCS,甚至可能是 Nearline。根据我的研究,我似乎可以在 GCE 上使用 gsutil 运行 来做到这一点。我不确定的是如何使它成为一个经常性的转移。也许每月一次它会检查 S3 存储桶并将任何新内容移至 GCS。这可以用 gsutil 实现吗?

谢谢!

如果要备份,我建议使用gsutil rsync:

gsutil -m rsync s3://s3-bucket gs://gs-bucket

gsutil cp 命令不同,这只会复制差异。如果要在从源中删除项目时从目标中删除项目,可以使用 -d 标志:

gsutil -m rsync -d s3://s3-bucket gs://gs-bucket

gsutil rsync docs 中提供了更多信息。

在 daily/weekly/monthly 的基础上为上述 运行 之一设置一个 cron 作业应该可以处理重复出现的方面。

或者您可以考虑 Online Cloud Import;这仍处于测试阶段,但它允许您在不使用 gsutil.

的情况下执行上述操作