根据 kubernetes 上的负载自动增加 Kafka 分区

Auto increase Kafka partitions based on load on kubernetes

我们已经在 kubernetes 上安装了 Kafka,我们希望 Kafka broker 分区需要根据输入源的负载自动增加,所以我想知道是否有任何可能的方法可以根据 kubernete 上的负载增加分区

经纪人没有可扩展的分区;主题做。

您必须为此构建自己的脚本,因为有一些注意事项

  1. 向主题添加分区不会移动数据,也不会减少 生产者 负载。它可能 增加 代理集群负载,因为现在可以获得更多数据 written/read。减少代理负载的唯一方法是添加更多代理,而不仅仅是分区

    • 如果您添加代理,您将需要具有跨代理移动分区的脚本,因为这也不是自动的
  2. 如果消费者依赖它(例如,紧凑的主题),它还将取消对消费者的任何订购保证