气流任务没有加入下游任务
Airflow tasks are not joining back to the downstream task
我正在尝试制作一个 DAG,其中两个(或更多)任务应该同时 运行 而下游任务应该等待它们在 运行 之前完成。
类似于此:
我正在尝试 运行 以下代码:
dag = DAG(
'test',
default_args={"start_date": datetime(2019, 12, 5)},
schedule_interval=None
)
start = DummyOperator(task_id='start', dag=dag)
end_opr = DummyOperator(task_id='end_opr', dag=dag)
dummy1 = DummyOperator(task_id='dummy', dag=dag)
dummy2 = DummyOperator(task_id='dummy2', dag=dag)
start >> [dummy1, dummy2] >> end_opr
但我得到的是 end_opr
的副本而不是 dummy1
和 dummy2
最后加入他。
我做错了什么?
我的环境:composer-1.17.2-airflow-1.10.15
你做的是对的!但是,您正在比较图表视图(第一张图片)与树视图(第二张图片)。树视图显示每个不同的根到叶路径的 DAG。 end_opr
任务并没有真正重复,而是出现了两次,因为它是 2 个不同路径的一部分。查看此 DAG 的 UI 中的图表视图;你应该在那里看到你的目标。
我正在尝试制作一个 DAG,其中两个(或更多)任务应该同时 运行 而下游任务应该等待它们在 运行 之前完成。
类似于此:
我正在尝试 运行 以下代码:
dag = DAG(
'test',
default_args={"start_date": datetime(2019, 12, 5)},
schedule_interval=None
)
start = DummyOperator(task_id='start', dag=dag)
end_opr = DummyOperator(task_id='end_opr', dag=dag)
dummy1 = DummyOperator(task_id='dummy', dag=dag)
dummy2 = DummyOperator(task_id='dummy2', dag=dag)
start >> [dummy1, dummy2] >> end_opr
但我得到的是 end_opr
的副本而不是 dummy1
和 dummy2
最后加入他。
我做错了什么?
我的环境:composer-1.17.2-airflow-1.10.15
你做的是对的!但是,您正在比较图表视图(第一张图片)与树视图(第二张图片)。树视图显示每个不同的根到叶路径的 DAG。 end_opr
任务并没有真正重复,而是出现了两次,因为它是 2 个不同路径的一部分。查看此 DAG 的 UI 中的图表视图;你应该在那里看到你的目标。