压缩 S3 存储桶中的数十亿个文件

Compress billions of files in S3 bucket

我们在 S3 (>1B) 中有很多文件,我想压缩这些文件以降低存储成本。 什么是简单有效的方法来做到这一点?

谢谢

亚历克斯

Amazon S3 无法压缩您的数据。

您需要在 Amazon EC2 实例 上为 运行 编写一个程序,它将:

  • 下载对象
  • 压缩它们
  • 将文件上传回 S3

另一种方法是使用存储 类:

  • 如果数据不经常访问,请使用 S3 标准 - 不经常访问 -- 只要数据访问少于每月一次,它就可以立即使用并且更便宜
  • Glacier 便宜很多,但需要一些时间来恢复(恢复速度与成本有关)