Flafka:如何写入通过 Flume 代理在 msg 类型上分区的分区 Kafka 主题(通道)

Flafka : How to write into partitoined Kafka topic (channels) which is partitioned on msg type through Flume agent

在我的项目中,我们共有 11 个 WSMQ 作为 Flume 代理的来源。 Kafka 主题作为通道,Kafka 主题根据消息类型进行分区。 HDFS 作为接收器。

要求:我们想使用flume-agent从多个队列中读取数据并写入kafka主题的特定分区,以便在以后的时间点,我们可以从这些kafka分区中读取数据。

现在,对于代理正在写入消息的每个队列,我们​​总共有 11 个 kafka 主题。我们希望有一个 Kafka 主题,它根据消息类型进行分区,并且传入的消息可以写入这些分区。

任何人都可以建议,这个用例的最佳方法是什么?

谢谢!

我们通过Spark streaming解决了。