Kafka 代理关闭,因为日志目录失败

Kafka brokers shuts down because log dirs have failed

我有一个包含 3 个代理的 Kafka 集群,Kafka 日志位于 /tmp 目录中。我是 运行 MongoDB 的 Debezium 源连接器,它从 4 个集合中轮询数据。

但是在启动连接器后 5 分钟内,Kafka 代理关闭并出现以下错误:

[2020-04-16 18:25:08,642] ERROR Shutdown broker because all log dirs in /tmp/kafka-logs-1 have failed (kafka.log.LogManager)

我尝试了不同的建议,即。删除 Kafka 日志并清除 Zookeeper 日志。但是我运行又遇到了同样的问题。

我还注意到发生这种情况时,kafka 日志占用了 100% 的 /tmp 目录。所以我也根据大小更改了日志保留策略。

log.retention.hours=168
log.retention.bytes=1073741824
log.segment.bytes=1073741824
log.retention.check.interval.ms=10000

这也是徒劳的。 我想在这方面得到一些帮助。提前致谢!

您的日志文件已损坏,可能是因为您 运行 存储空间不足。


我建议在 server.properties 中更改 log.dirs。还要确保您没有使用 tmp/ 位置,因为一旦您的机器关闭,它就会被清除。更改 log.dirs 后,您可以重新启动 Kafka。

请注意,较旧的消息将会丢失。