AWS Kinesis Firehose - 使用索引轮换 (Elasticsearch)
AWS Kinesis Firehose - using Index Rotation (Elasticsearch)
我已经设置了一个新的 AWS Kinesis Firehose
流,我想每周创建一个新索引。
为此,我应该在配置流时使用 Index Rotation
设置。
但是,我是否必须在下一周的每个周末都使用新索引?
如果不是(希望不是),Firehose
怎么知道要使用什么映射?它是否使用我在 Index
设置中指定的索引中定义的映射?
此外,假设我有旧数据,我可以Firehose
根据旧数据中指定的日期创建具有相关时间戳的索引吗?
谢谢!
好吧,显然答案是肯定的,但方式很糟糕。
如果 Firehose
将数据推送到未使用映射预定义的新索引,该数据将被提取到 Elasticsearch
并自动为您创建映射。
这真的很糟糕。
您应该在活动开始前 1-2 小时自动创建索引。
我将 post 一个 Lambda
函数及其自动执行的配置。
您是否考虑过在弹性搜索中创建索引模板。这样新索引将选择索引模板中定义的映射。
详情请参考以下link
https://www.elastic.co/guide/en/elasticsearch/reference/current/indices-templates.html
我已经设置了一个新的 AWS Kinesis Firehose
流,我想每周创建一个新索引。
为此,我应该在配置流时使用 Index Rotation
设置。
但是,我是否必须在下一周的每个周末都使用新索引?
如果不是(希望不是),Firehose
怎么知道要使用什么映射?它是否使用我在 Index
设置中指定的索引中定义的映射?
此外,假设我有旧数据,我可以Firehose
根据旧数据中指定的日期创建具有相关时间戳的索引吗?
谢谢!
好吧,显然答案是肯定的,但方式很糟糕。
如果 Firehose
将数据推送到未使用映射预定义的新索引,该数据将被提取到 Elasticsearch
并自动为您创建映射。
这真的很糟糕。
您应该在活动开始前 1-2 小时自动创建索引。
我将 post 一个 Lambda
函数及其自动执行的配置。
您是否考虑过在弹性搜索中创建索引模板。这样新索引将选择索引模板中定义的映射。
详情请参考以下link
https://www.elastic.co/guide/en/elasticsearch/reference/current/indices-templates.html