清除 Luigi 任务可视化器缓存

Clearing the Luigi Task Visualizer Cache

我正在使用 Luigi 测试管道,我注意到任务可视化器中存在奇怪的缓存行为。一方面,任务似乎会在缓存中停留一段时间,有时会与来自第二个 运行 管道的任务重叠,导致 UI 混乱。我还注意到,当两个管道连续 运行 时,新管道中的任务需要一段时间才能出现。有没有办法在每次 运行 之前手动重置缓存?是否有一个配置变量来设置任务在过期之前缓存多长时间?

您可以对调度程序使用 remove_delay 设置。在您的配置文件中:

[scheduler]
remove_delay = 10

这适用于调度程序,因此您需要重新启动 luigid 才能启用它。

来自文档:

Number of seconds to wait before removing a task that has no stakeholders. Defaults to 600 (10 minutes).

根据经验,这种情况下的利益相关者似乎是指工人和 upstream/downstream 依赖关系。