来自 NiFi 的 Storm HDFS 锁定文件
Storm HDFS locking file from NiFi
我正在尝试使用 storm HDFS spout,我让 Apache Nifi 将文件移动到 storm 正在侦听的 HDFS 目录,但是一旦 apache nifi 开始移动文件,storm 就会感觉到并开始处理并注意到文件避难所'完全被感动了。
我试过从 storm 端使用 conf.put(Configs.IGNORE_SUFFIX, ignoreSuffix)
和 apache nifi updateAttribute
将文件重命名为 .ignore
完全移动后我需要再次重命名文件,我该如何实现?或者还有其他方法吗?
写入HDFS时,NiFi会写入文件名开头带点的文件,如“.foo.txt”,写入完成后重命名为不带点的文件名喜欢 "foo.txt"。因此,如果 Storm 有办法忽略前缀,那么您应该能够忽略任何以点开头的内容。
我正在尝试使用 storm HDFS spout,我让 Apache Nifi 将文件移动到 storm 正在侦听的 HDFS 目录,但是一旦 apache nifi 开始移动文件,storm 就会感觉到并开始处理并注意到文件避难所'完全被感动了。
我试过从 storm 端使用 conf.put(Configs.IGNORE_SUFFIX, ignoreSuffix)
和 apache nifi updateAttribute
将文件重命名为 .ignore
完全移动后我需要再次重命名文件,我该如何实现?或者还有其他方法吗?
写入HDFS时,NiFi会写入文件名开头带点的文件,如“.foo.txt”,写入完成后重命名为不带点的文件名喜欢 "foo.txt"。因此,如果 Storm 有办法忽略前缀,那么您应该能够忽略任何以点开头的内容。