无法使用 Spring 云数据流将流数据写入接收器文件

Unable to write streamed data to sink file using Spring cloud dataflow

我正在尝试使用 spring 云数据流创建数据流管道,使用 shell(不是 UI)。来源是 twitterstream,接收器是文件。这是我配置文件接收器所做的:

dataflow:>stream create demo --definition "twitterstream --credentials | file --dir=/opt/datastream --mode=APPEND --filename=tweets.txt"

我可以使用来自 kafka 主题的数据,但无法写入上面的接收器位置,甚至没有创建文件。部署流时没有错误日志。最终我会将其从本地文件系统更改为 HDFS。有什么遗漏吗?

PS:我尝试了默认文件接收器(没有定义),它应该在 /tmp/xd/output 中创建默认文件,但也没有发生。

在最新的 1.0.0.RELEASE (GA) 版本中,以下流定义有效。

dataflow:>stream create demo --definition "twitterstream | file --directory=/someFolder --mode=APPEND --name=demo.txt"

有几点需要指出:

1) twitterstream 来源不支持 --credentials 作为 OOTB 属性。参见 here

2) file 接收器不支持 --filename 作为 OOTB 属性;您必须改用 --name 。参见 here