kafka 中不同主题的多个连接器将转到同一个节点

multiple connectors in kafka to different topics are going to same node

我在 kafka-connect 中创建了两个 kafka 连接器,它们使用相同的连接器 class 但它们收听的主题不同。

当我在我的节点上启动进程时,两个连接器最终都在此进程上创建任务。但是,我希望一个节点只处理一个 connector/topic。如何将 topic/connector 限制为单个节点?我在 connect-distributed.properties 中没有看到任何配置,其中进程可以指定要使用的连接器。

谢谢

分布式模式下的 Kafka Connect 可以 运行 作为一个或多个 worker 的集群。每个 worker 可以 运行 多个 tasks。根据您 运行 有多少 连接器 工人 ,您将有 任务 运行在同一个 worker 上工作。这是经过深思熟虑的——这个想法是 Kafka Connect 将跨可用的工作人员为您管理您的任务和工作量。

如果你想隔离你的处理,你可以 运行 Kafka Connect 作为单独的 Connect 集群,可以在同一台机器上(确保使用不同的 REST 端口),也可以在不同的机器上。

有关详细信息,请参阅 architecture and config 以了解配置单独集群的步骤。请注意,集群实际上可以是单个工作人员,但是在发生故障时您没有任何冗余。