Kafka S3 源连接器

Kafka S3 Source Connector

我有一个要求,我们应用程序之外的源将把一个文件放到我们必须加载到 kafka 主题中的 S3 存储桶中。我正在查看 Confluent 的 S3 Source 连接器,目前正致力于定义用于在我们的环境中设置连接器的配置。但是有几篇文章指出,只有当您使用 S3 接收器连接器将文件放入 S3 时,才能使用 S3 源连接器。

以上是真的吗?我在哪里/什么 属性 用来定义配置中的输出主题?从 S3 读取消息并将其放入主题时是否可以转换消息。两者都是 JSON / Avro 格式。

Confluent 的快速入门示例还假设您使用了 S3 接收器连接器,因此出现了这个问题。

谢谢

我收到了 Confluent 的回复,Confluent S3 Source 连接器确实只能与 Confluent S3 Sink 连接器一起使用。不能独立使用

Confluent 发布版本 2.0.0 截至 2021-12-15。此版本包括 generalized s3 source connection mode