如何将 MessagePack 编码的消息从 Kafka 接收到 MongoDB
How to sink MessagePack-encoded messages into MongoDB from Kafka
我有一个 Kafka 主题,其中的值是 MessagePack 编码的。
是否有任何方法可以使用 MongoDB Kafka 连接器将该主题的记录汇入 MongoDB,或者记录值是否必须简单地存储为 JSON?
您需要找到或创建自己的 Kafka Connect Converter
,然后将该包添加到每个 Connect worker 的类路径中,然后将其设置为您的 key/value 转换器设置,现有的Mongo Sink Connector 可以将消息反序列化为Struct
和Schema
形式,并正确处理。
JSON 从来都不是必需的。 Avro 和 Protobuf 应该也能正常工作
我有一个 Kafka 主题,其中的值是 MessagePack 编码的。
是否有任何方法可以使用 MongoDB Kafka 连接器将该主题的记录汇入 MongoDB,或者记录值是否必须简单地存储为 JSON?
您需要找到或创建自己的 Kafka Connect Converter
,然后将该包添加到每个 Connect worker 的类路径中,然后将其设置为您的 key/value 转换器设置,现有的Mongo Sink Connector 可以将消息反序列化为Struct
和Schema
形式,并正确处理。
JSON 从来都不是必需的。 Avro 和 Protobuf 应该也能正常工作