AWS Kinesis Firehose - 使用索引轮换 (Elasticsearch)

AWS Kinesis Firehose - using Index Rotation (Elasticsearch)

我已经设置了一个新的 AWS Kinesis Firehose 流,我想每周创建一个新索引。

为此,我应该在配置流时使用 Index Rotation 设置。

但是,我是否必须在下一周的每个周末都使用新索引? 如果不是(希望不是),Firehose 怎么知道要使用什么映射?它是否使用我在 Index 设置中指定的索引中定义的映射?

此外,假设我有旧数据,我可以Firehose根据旧数据中指定的日期创建具有相关时间戳的索引吗?

谢谢!

好吧,显然答案是肯定的,但方式很糟糕。

如果 Firehose 将数据推送到未使用映射预定义的新索引,该数据将被提取到 Elasticsearch 并自动为您创建映射。

这真的很糟糕。

您应该在活动开始前 1-2 小时自动创建索引。 我将 post 一个 Lambda 函数及其自动执行的配置。

您是否考虑过在弹性搜索中创建索引模板。这样新索引将选择索引模板中定义的映射。

详情请参考以下link

https://www.elastic.co/guide/en/elasticsearch/reference/current/indices-templates.html