如何在CKAN中消费Kafka
How to consume Kafka in CKAN
是否可以link CKAN 中的资源到 Kafka consume-API?我想使用 CKAN api 访问实时发布在 Kafka 中的实时资源。
你可能应该在 CKAN 扩展中自己写这个。
例如,我编写了一个 CKAN-Validator 插件,它的运行方式与 Datapusher 一样,但会抓取文件,使用 csv 和 excel 文件的无摩擦 goodtables 验证函数来验证它们。如果验证成功,我将文件推送到一个数据库中,Logstash 从该数据库中提取数据并开始到 Elasticsearch 的旅程。出于各种原因,我选择了 GoodTables 而不是 MessyTables。
我认为你可以编写一个后台作业,从 Kafka consume-API 中提取数据,并可能将其推送到 CKAN 数据存储中。
你应该看看 ckan-service-provider
库。
这就是我以前写的。
这是 github 上的 link:https://github.com/ckan/ckan-service-provider
是否可以link CKAN 中的资源到 Kafka consume-API?我想使用 CKAN api 访问实时发布在 Kafka 中的实时资源。
你可能应该在 CKAN 扩展中自己写这个。 例如,我编写了一个 CKAN-Validator 插件,它的运行方式与 Datapusher 一样,但会抓取文件,使用 csv 和 excel 文件的无摩擦 goodtables 验证函数来验证它们。如果验证成功,我将文件推送到一个数据库中,Logstash 从该数据库中提取数据并开始到 Elasticsearch 的旅程。出于各种原因,我选择了 GoodTables 而不是 MessyTables。
我认为你可以编写一个后台作业,从 Kafka consume-API 中提取数据,并可能将其推送到 CKAN 数据存储中。
你应该看看 ckan-service-provider
库。
这就是我以前写的。
这是 github 上的 link:https://github.com/ckan/ckan-service-provider