可用 space 在 flume 中使用文件通道耗尽

Usable space exhausted in flume using file channel

我正在 Flume 工作,将假脱机目录作为源,HDFS 作为接收器,文件作为通道。执行 flume 作业时。我遇到以下问题。内存通道工作正常。但是我们需要使用文件通道来实现相同的功能。使用文件通道我遇到以下问题。

我在 flume.env.sh 文件中将 JVM 内存大小配置为 3GB。请让我知道我们需要做的任何其他设置。

2016 年 1 月 20 日 20:05:27,099 错误 [SinkRunner-PollingRunner-DefaultSinkProcessor] (org.apache.flume.SinkRunner$PollingRunner.run:160) - 无法传递事件。例外如下。 java.lang.IllegalStateException:频道关闭 [channel=Artiva-memory-channel]。由于java.io.IOException:可用space用完,只剩下427515904字节,需要524288000字节

文件通道与内存无关,与HDD(磁盘)有关。这样的通道使用文件系统来存储数据。因此,检查写入检查点文件和数据文件的磁盘中有多少空闲space可用(请查看FileChannel参数)。

错误信息是关于内存通道的。参见 "Channel closed [channel=Artiva-memory-channel]"。
检查分配给有问题的 HDFS 接收器的通道。 它会在 flume.conf 文件中,一个 属性 像: agent_name.sinks.hdfs_sink_name.channel