Elasticsearch + Logstash - 在接收事件时索引来自不同来源的数据

Elasticsearch + Logstash - Indexing data from different sources when receiving an event

美好的一天,

在 Elasticsearch 中为一些数据建立索引时,我有点头疼,并且对好的方法有一些疑问。

截至目前,在 Kafka 主题上收到了一个事件,其中只有一部分数据应该存储在文档中。其余数据需要在收到事件后收集,并可从不同的 API 获得。为了减少工作量,Logstash 似乎是一个不错的方法。

有没有办法将 Logstash 配置为在收到事件时从不同的 API 和 DB 启动数据收集,然后 assemble 具有组合日期的文档,或者我是否坚持编写耗时的自定义索引的逻辑?我已经搜索了一下,但找不到关于这个问题的任何好的答案。

您在 logstash 中需要的是 lookup/enrich 您使用来自外部 api 的数据发送消息,对吧? 您可以使用 logstash 的 http_filter 插件