如何定期安排flink批处理
how to schedule a flink batch processing periodically
我有一个 java 应用程序,它对通过查询数据库中的表获得的批次进行 flink 批处理,并将其提供给 kafka 主题。我将如何定期安排此计划。有没有flink调度器?例如,我的 java 应用程序应该在后台保持 运行 并且 flink 调度程序应该定期从数据库中查询表并且 flink 批处理它并输入到 kafka(flink 批处理和输入到 kafka 是已经完成了我申请的一部分)。如果有人对此有指点,请提供帮助。
Flink 不提供作业调度程序。
您是否考虑过使用连续 运行 Flink DataStream 应用程序来实现用例?您可以实施定期查询数据库的 SourceFunction
。
连续流应用程序的优点是移动部件更少(没有调度器,如果出现问题也没有故障处理)和跨越 "batches" 边界的一致视图。缺点是作业一直在消耗资源(Flink 不能在低负载时自动缩容)。
我有一个 java 应用程序,它对通过查询数据库中的表获得的批次进行 flink 批处理,并将其提供给 kafka 主题。我将如何定期安排此计划。有没有flink调度器?例如,我的 java 应用程序应该在后台保持 运行 并且 flink 调度程序应该定期从数据库中查询表并且 flink 批处理它并输入到 kafka(flink 批处理和输入到 kafka 是已经完成了我申请的一部分)。如果有人对此有指点,请提供帮助。
Flink 不提供作业调度程序。
您是否考虑过使用连续 运行 Flink DataStream 应用程序来实现用例?您可以实施定期查询数据库的 SourceFunction
。
连续流应用程序的优点是移动部件更少(没有调度器,如果出现问题也没有故障处理)和跨越 "batches" 边界的一致视图。缺点是作业一直在消耗资源(Flink 不能在低负载时自动缩容)。