__consumer_offset 无法同步
__consumer_offset is unable to sync
我正在使用具有以下属性的 mm2
source(A),sink(B) 集群都有自己独立的 zookeeper
我使用了源 A 中主题测试的一些数据。
然后我停止了消费者,并开始镜像过程
当我将具有相同组 ID 的消费者指向下沉时,它会从头开始消费。我期待它应该从它在源中停止的地方开始在接收器中。
###############
A.bootstrap.servers = localhost:9092
B.bootstrap.servers = localhost:9093
A->B.enabled = true
A->B.topics = test
#B->A.enabled = true
#B->A.topics = .*
checkpoints.topic.replication.factor=1
heartbeats.topic.replication.factor=1
offset-syncs.topic.replication.factor=1
offset.storage.replication.factor=1
status.storage.replication.factor=1
config.storage.replication.factor=1```
从Kafka 2.7开始,MirrorMaker可以通过设置sync.group.offsets.enabled=true
.
自动镜像消费组偏移量
在你的例子中:
A->B.sync.group.offsets.enabled=true
2.7 之前,MirrorMaker 不会自动提交消费者组偏移量,您需要使用RemoteClusterUtils
进行偏移量转换。
我正在使用具有以下属性的 mm2 source(A),sink(B) 集群都有自己独立的 zookeeper 我使用了源 A 中主题测试的一些数据。 然后我停止了消费者,并开始镜像过程 当我将具有相同组 ID 的消费者指向下沉时,它会从头开始消费。我期待它应该从它在源中停止的地方开始在接收器中。 ###############
A.bootstrap.servers = localhost:9092
B.bootstrap.servers = localhost:9093
A->B.enabled = true
A->B.topics = test
#B->A.enabled = true
#B->A.topics = .*
checkpoints.topic.replication.factor=1
heartbeats.topic.replication.factor=1
offset-syncs.topic.replication.factor=1
offset.storage.replication.factor=1
status.storage.replication.factor=1
config.storage.replication.factor=1```
从Kafka 2.7开始,MirrorMaker可以通过设置sync.group.offsets.enabled=true
.
在你的例子中:
A->B.sync.group.offsets.enabled=true
2.7 之前,MirrorMaker 不会自动提交消费者组偏移量,您需要使用RemoteClusterUtils
进行偏移量转换。