如何在CKAN中消费Kafka

How to consume Kafka in CKAN

是否可以link CKAN 中的资源到 Kafka consume-API?我想使用 CKAN api 访问实时发布在 Kafka 中的实时资源。

你可能应该在 CKAN 扩展中自己写这个。 例如,我编写了一个 CKAN-Validator 插件,它的运行方式与 Datapusher 一样,但会抓取文件,使用 csv 和 excel 文件的无摩擦 goodtables 验证函数来验证它们。如果验证成功,我将文件推送到一个数据库中,Logstash 从该数据库中提取数据并开始到 Elasticsearch 的旅程。出于各种原因,我选择了 GoodTables 而不是 MessyTables。

我认为你可以编写一个后台作业,从 Kafka consume-API 中提取数据,并可能将其推送到 CKAN 数据存储中。

你应该看看 ckan-service-provider 库。

这就是我以前写的。

这是 github 上的 link:https://github.com/ckan/ckan-service-provider