在 S3 上传 + 处理文件上启动 EC2 实例
Launch EC2 instance on S3 upload + process file
我想在用户将数据上传到我的 datadump-input
S3 存储桶时自动启动 EC2 实例。 EC2 实例应该:
- 开始
- 从
datadump-input
下载文件并使用预加载的 Python 脚本处理它
- 停止
最简单的方法是什么? 具体来说,如何将文件从 S3 存储桶获取到 EC2 实例? 每次上传时文件名都会不同。
我在考虑 Lambda,但对其他服务持开放态度。
我会让 S3 将新对象通知发送到 SQS 队列。配置自动缩放组以在队列深度大于 0 时启动 EC2 实例。在 EC2 实例上,让您的应用程序轮询 SQS 队列以查找消息,直到没有消息为止。
我想在用户将数据上传到我的 datadump-input
S3 存储桶时自动启动 EC2 实例。 EC2 实例应该:
- 开始
- 从
datadump-input
下载文件并使用预加载的 Python 脚本处理它 - 停止
最简单的方法是什么? 具体来说,如何将文件从 S3 存储桶获取到 EC2 实例? 每次上传时文件名都会不同。
我在考虑 Lambda,但对其他服务持开放态度。
我会让 S3 将新对象通知发送到 SQS 队列。配置自动缩放组以在队列深度大于 0 时启动 EC2 实例。在 EC2 实例上,让您的应用程序轮询 SQS 队列以查找消息,直到没有消息为止。