如何从 java 应用程序订阅 apache kafka 中的主题？

Question

这是 apache kafka 的消费者，它没有从主题 "test"

获取消息

package com.kafka;

import java.util.Arrays;
import java.util.Properties;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

public class ConsumerTest {

  public static void main(String[] args) {
     Properties props = new Properties();
     props.put("bootstrap.servers", "172.17.210.45:9092");
     props.put("zookeeper.connect", "172.17.210.45:2181");
     props.put("group.id", "test-consumer-group");
     props.put("enable.auto.commit", "true");
     props.put("auto.commit.interval.ms", "1000");
     props.put("auto.offset.reset", "earliest");
     props.put("session.timeout.ms", "30000");
     props.put("key.deserializer",  "org.apache.kafka.common.serialization.StringDeserializer");
     props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");

     KafkaConsumer<String, String> kafkaConsumer = new KafkaConsumer<>(props);
     System.out.println("properties loaded");
     kafkaConsumer.subscribe(Arrays.asList("test"));

     while (true) {
         ConsumerRecords<String, String> records = kafkaConsumer.poll(100);
         for (ConsumerRecord<String, String> record : records) {
           System.out.printf("offset = %d, value = %s", record.offset(), record.value());
           System.out.println();
         }
     }

  }
}

在这个结果中，我没有从 apache kafka 收到任何消息。

     log4j:WARN No appenders could be found for logger                                                                                                                (org.apach  e.kafka.clients.consumer.ConsumerConfig).
     log4j:WARN Please initialize the log4j system properly.
properties loaded

Answer 1

您的代码似乎是正确的。我建议控制 ip 172.17.210.45 是否可达。

ping 172.17.210.45

和

telnet 172.17.210.45 9092
telnet 172.17.210.45 2181

检查服务器上的现有主题

bin/kafka-topics.sh --list --zookeeper 172.17.210.45:2181

那你可以试着把你的consumer移到开头（这一行必须加在kafkaConsumer.subscribe之后：

kafkaConsumer.seekToBeginning(Collections.emptyList());

最后我建议在 kafkaConsumer.poll(100) 之后的无限循环中添加几行 System.out.println(records.size) 行。只是为了看看是否挂起等待记录或其他什么。

更新

如果你在生产者部分有一个或多个group.id，你应该在消费者部分使用其中之一。

如何从 java 应用程序订阅 apache kafka 中的主题？

How to subscribe to the topic in apache kafka from the java application?

java

apache-kafka

kafka-consumer-api

kafka-producer-api