根据 Kafka 的消息数据写入自定义 HDFS 目录 -> Flume -> hdfs 摄取
Writing to custom HDFS directory based on message data for Kafka -> Flume -> hdfs ingestion
如何根据 Kafka 消息中的消息类型使用 flume 写入自定义 hdfs 目录?
说kafka消息:{"type": "A", "data": "blah"}
在类型字段中有"A"应该写入/data/A
,消息:{"type": "B", "data": "blah"}
在类型字段中有"B"应该写入/data/B
,等等
我认为您需要自定义 flume 接收器。
Apache Flume custom sink
如何根据 Kafka 消息中的消息类型使用 flume 写入自定义 hdfs 目录?
说kafka消息:{"type": "A", "data": "blah"}
在类型字段中有"A"应该写入/data/A
,消息:{"type": "B", "data": "blah"}
在类型字段中有"B"应该写入/data/B
,等等
我认为您需要自定义 flume 接收器。 Apache Flume custom sink