SnappyData -streaming table 参数 "topics" 说明
SnappyData -streaming table parameter "topics" clarification
我正在阅读文档 (http://snappydatainc.github.io/snappydata/streamingWithSQL/),想知道在使用 kafka 时主题名称后面的参数“:01”是什么意思。这是分区号还是服务器正在使用的线程数?
即:“话题'streamTopic:01'
val sc = new SparkContext(new SparkConf().setAppName("example").setMaster("local[*]"))
val snc = SnappyContext.getOrCreate(sc)
var snsc = SnappyStreamingContext(snc, Seconds(1))
snsc.sql("create stream table streamTable (userId string, clickStreamLog string) " +
"using kafka_stream options (" +
"storagelevel 'MEMORY_AND_DISK_SER_2', " +
"rowConverter 'io.snappydata.app.streaming.KafkaStreamToRowsConverter', " +
"zkQuorum 'localhost:2181', " +
"groupId 'streamConsumer', " +
"topics 'streamTopic:01')")
抱歉,如果某处提到过,但我找不到。
这应该只是主题名称。 Spark streaming 将计算出 kafka 分区的数量并启动足够的并行任务以进行摄取。
看另一个例子here。
我正在阅读文档 (http://snappydatainc.github.io/snappydata/streamingWithSQL/),想知道在使用 kafka 时主题名称后面的参数“:01”是什么意思。这是分区号还是服务器正在使用的线程数?
即:“话题'streamTopic:01'
val sc = new SparkContext(new SparkConf().setAppName("example").setMaster("local[*]"))
val snc = SnappyContext.getOrCreate(sc)
var snsc = SnappyStreamingContext(snc, Seconds(1))
snsc.sql("create stream table streamTable (userId string, clickStreamLog string) " +
"using kafka_stream options (" +
"storagelevel 'MEMORY_AND_DISK_SER_2', " +
"rowConverter 'io.snappydata.app.streaming.KafkaStreamToRowsConverter', " +
"zkQuorum 'localhost:2181', " +
"groupId 'streamConsumer', " +
"topics 'streamTopic:01')")
抱歉,如果某处提到过,但我找不到。
这应该只是主题名称。 Spark streaming 将计算出 kafka 分区的数量并启动足够的并行任务以进行摄取。
看另一个例子here。