nifi 向 influxdb 插入数据太慢
inserting data to influxdb by nifi is too slow
我在 NiFi 中有数据管道,它通过 "ExtractText" 处理器监听系统日志并处理接收到的数据并提取属性然后通过 "ReplaceText" 制作 influx 输入格式,最后通过"PutInflux" 处理器。但是我在 putInflux 处理器之前排了很长的队,因为插入速度比生成的数据慢太多。请帮助我提高插入速度。
Data PipeLine
ReplaceText processor configuration : (view_stat -> measurement , Listing_id -> tag, event_id -> value , Timestamp -> time )
PutInflux processor configuration
您是一次将多行放入 Influx(即流文件中的多行)还是一次放入一行?如果是后者,请在 PutInfluxDB 之前尝试 MergeContent 或 MergeRecord,以将多行放入一个文件中。然后你就不用支付通过电线传输每条线的开销,你可以一次放很多。
谢谢马蒂布,
我增加了 PutInfluxDB 处理器中的线程数并解决了问题:)
我在 NiFi 中有数据管道,它通过 "ExtractText" 处理器监听系统日志并处理接收到的数据并提取属性然后通过 "ReplaceText" 制作 influx 输入格式,最后通过"PutInflux" 处理器。但是我在 putInflux 处理器之前排了很长的队,因为插入速度比生成的数据慢太多。请帮助我提高插入速度。 Data PipeLine
ReplaceText processor configuration : (view_stat -> measurement , Listing_id -> tag, event_id -> value , Timestamp -> time )
PutInflux processor configuration
您是一次将多行放入 Influx(即流文件中的多行)还是一次放入一行?如果是后者,请在 PutInfluxDB 之前尝试 MergeContent 或 MergeRecord,以将多行放入一个文件中。然后你就不用支付通过电线传输每条线的开销,你可以一次放很多。
谢谢马蒂布, 我增加了 PutInfluxDB 处理器中的线程数并解决了问题:)