Kafka：java 客户端在 x 次尝试后发送消息失败

Question

我尝试从 Java 应用程序向 Kafka 发送消息。

我只能得到“2 次尝试后发送消息失败”：

Exception in thread "main" kafka.common.FailedToSendMessageException: Failed to send messages after 2 tries.
    at kafka.producer.async.DefaultEventHandler.handle(DefaultEventHandler.scala:90)
    at kafka.producer.Producer.send(Producer.scala:77)
    at kafka.javaapi.producer.Producer.send(Producer.scala:33)
    at test.Main.main(Main.java:26)

Kafka 在远程机器上运行所以我添加到它的 server.properties （假设 Kafka 服务器的 IP 地址是 192.168.0.1）：

host.name=192.168.0.1
advertised.host.name=192.168.0.1
advertised.port=9092

运行 Kafka 是 kafka_2.11-0.8.2.1 所以我使用了（我猜）合适的 Java-客户端版本：

<dependency>
  <groupId>org.apache.kafka</groupId>
  <artifactId>kafka_2.11</artifactId>
  <version>0.8.2.1</version>
</dependency>

Java代码：

public static void main(String[] args) {
  Properties properties = new Properties();
  properties.put("metadata.broker.list", "192.168.0.1:9092");
  properties.put("serializer.class", "test.StringEncoder");
  properties.put("key.serializer.class", "test.StringEncoder");
  properties.put("message.send.max.retries", "2");

  Producer<String, String> kafkaProducer = new Producer<String, String>(new ProducerConfig(properties));

  kafkaProducer.send(new KeyedMessage<String, String>(
      "LOG", 
      "Yo! " + new Date().toString()
  ));

  kafkaProducer.close();
}

LOG 主题已经创建。我能够从执行 Java 代码的同一台机器向 Kafka 发送消息（并且有效）：

bin/kafka-console-producer.sh --broker-list 192.168.0.1:9092 --topic LOG

当 Java 代码失败时，Kafka 和 Zookeeper 都不会记录任何内容。

有没有我遗漏的特定参数？

Answer 1

Apache kafka 有一个更好的新生产者客户端：

<dependency>
    <groupId>org.apache.kafka</groupId>
    <artifactId>kafka-clients</artifactId>
    <version>0.8.2.0</version>
</dependency>

示例： https://github.com/CameronGregory/kafka/blob/master/TestProducer.java

显然你的配置没问题。 "test.StringEncoder" 是您的习惯 class 吗？试试你用 "kafka.serializer.StringEncoder" 代替

Answer 2

即使我遇到了同样的问题，对我来说，重新启动 Kafka 服务器也很有效。也许你应该尝试重新启动一次。

Kafka：java 客户端在 x 次尝试后发送消息失败

Kafka: java client failed to send messages after x tries

java

apache-kafka