如何从 s3 bucket 读取数据到 Kinesis Stream
How to read data from s3 bucket to Kinesis Stream
我是 Kinesis 的新手。我想将数据从 s3 存储桶读取到 Kinesis 流。我创建了一个名为 'mystream' 的运动流。在我的项目中,每 3 个月就会将一条记录上传到 s3。同时我需要读取记录到kinesis stream。我创建了 Lamda 来读取文件并将其保存到 RDS 数据库实例中。我发现在 lambda 项目中有一个运动事件。这是做事的方式吗?请帮我得到这个。我不知道如何开始这一切..如果有人能帮助我就太好了....
如果我的理解是正确的,你的问题是关于如何将 s3 对象数据写入 kinesis。
您可以在 S3 中为 lambda 创建事件通知。在事件中,可以select事件(ObjectCreate(All),put,post)。在成功创建每个对象创建操作后,您会在 lambda 中收到通知。在 lambda 事件上下文中,您可以获得每次调用的 s3 对象信息。
现在您可以读取对象信息并将其写入运动流。
使用 Java
的 AWS S3 和 Kinesis Stream 链接
https://docs.aws.amazon.com/AmazonS3/latest/dev/RetrievingObjectUsingJava.html
https://docs.aws.amazon.com/streams/latest/dev/developing-producers-with-sdk.html
AWS 建议使用 AWS DMS 将文件从 S3 提取到 Kinsis。
我是 Kinesis 的新手。我想将数据从 s3 存储桶读取到 Kinesis 流。我创建了一个名为 'mystream' 的运动流。在我的项目中,每 3 个月就会将一条记录上传到 s3。同时我需要读取记录到kinesis stream。我创建了 Lamda 来读取文件并将其保存到 RDS 数据库实例中。我发现在 lambda 项目中有一个运动事件。这是做事的方式吗?请帮我得到这个。我不知道如何开始这一切..如果有人能帮助我就太好了....
如果我的理解是正确的,你的问题是关于如何将 s3 对象数据写入 kinesis。
您可以在 S3 中为 lambda 创建事件通知。在事件中,可以select事件(ObjectCreate(All),put,post)。在成功创建每个对象创建操作后,您会在 lambda 中收到通知。在 lambda 事件上下文中,您可以获得每次调用的 s3 对象信息。
现在您可以读取对象信息并将其写入运动流。
使用 Java
的 AWS S3 和 Kinesis Stream 链接https://docs.aws.amazon.com/AmazonS3/latest/dev/RetrievingObjectUsingJava.html
https://docs.aws.amazon.com/streams/latest/dev/developing-producers-with-sdk.html
AWS 建议使用 AWS DMS 将文件从 S3 提取到 Kinsis。