我可以使用 java 从 cometd 主题将流数据读入 Apache Beam 吗?
Can I read stream data into Apache Beam from a cometd topic using java?
我有一位制作人就 cometd 主题吐槽消息。我需要选择并处理来自该主题的消息流。我可能花了最后两个小时试图找到一种方法将 cometd 上的消息直接摄取到 apache Beam 中。我好像在这里碰壁了。我知道我有以下选择:
- 从topic获取数据,写入kafka,再将kafka的数据推送到beam。
- 从主题获取,将数据写入 GCP 上的 pub/sub,然后将其推送到 Apache Beam。
上面的两个选项似乎都在体系结构中包含一个额外的组件。有更好的方法吗?有什么例子吗?代码示例?指针?
我不知道有人已经为 Beam 编写或启动了 CometD 连接器。当前连接器列在 https://beam.apache.org/documentation/io/built-in/。要编写自己的代码,您可以尝试模仿其他基本流连接器之一的代码,例如 AMQP、MQTT 或 JMS(Kafka 和 Pubsub 非常先进,我不建议通过它们的源代码来指导您的实现)。
我有一位制作人就 cometd 主题吐槽消息。我需要选择并处理来自该主题的消息流。我可能花了最后两个小时试图找到一种方法将 cometd 上的消息直接摄取到 apache Beam 中。我好像在这里碰壁了。我知道我有以下选择:
- 从topic获取数据,写入kafka,再将kafka的数据推送到beam。
- 从主题获取,将数据写入 GCP 上的 pub/sub,然后将其推送到 Apache Beam。
上面的两个选项似乎都在体系结构中包含一个额外的组件。有更好的方法吗?有什么例子吗?代码示例?指针?
我不知道有人已经为 Beam 编写或启动了 CometD 连接器。当前连接器列在 https://beam.apache.org/documentation/io/built-in/。要编写自己的代码,您可以尝试模仿其他基本流连接器之一的代码,例如 AMQP、MQTT 或 JMS(Kafka 和 Pubsub 非常先进,我不建议通过它们的源代码来指导您的实现)。