Airflow 调度程序无法启动任务
Airflow scheduler fails to start tasks
我的问题:
Airflow 调度程序未分配任务。
背景:
我在本地机器上使用 sqlitedb 成功安装了 Airflow 运行。示例 dag 以及我的自定义 DAG 运行 没有任何问题。
当我尝试从 sqlite 数据库迁移到 Postgres(使用 this 指南)时,调度程序似乎不再分配任务。 DAG 卡在 "running" 状态,但任何 DAG 中的任务都不会被分配状态。
我采取的故障排除步骤
- Web 服务器和调度程序是 运行
- DAG 设置为 "ON"。
- 在 运行 airflow initdb 之后,public 模式填充了所有气流 tables。
- 我的连接字符串中的用户拥有数据库以及 public 架构中的每个 table。
调度程序日志
调度程序日志保留 post 发出此警告,但我无法使用它来找到除 this 其他 post 之外的任何有用信息,但没有任何响应。
[2020-04-08 09:39:17,907] {dag_processing.py:556} INFO - Launched DagFileProcessorManager with pid: 44144
[2020-04-08 09:39:17,916] {settings.py:54} INFO - Configured default timezone <Timezone [UTC]>
[2020-04-08 09:39:17,927] {settings.py:253} INFO - settings.configure_orm(): Using pool settings. pool_size=5, max_overflow=10, pool_recycle=1800, pid=44144
[2020-04-08 09:39:19,914] {dag_processing.py:663} WARNING - DagFileProcessorManager (PID=44144) exited with exit code -11 - re-launching
环境
- PostgreSQL 版本 12.1
- Airflow v1.10.9
- 这就是 conda 虚拟环境中 MacBook Pro (Catalina) 上的全部 运行。
Postgres 是使用 postgresapp 安装的。将 postgres 应用程序更新到版本 2.3.3e。 PostgresQL 仍然是 12.1 版本,但通过更新 postgresapp,问题已解决。
我的问题:
Airflow 调度程序未分配任务。
背景:
我在本地机器上使用 sqlitedb 成功安装了 Airflow 运行。示例 dag 以及我的自定义 DAG 运行 没有任何问题。 当我尝试从 sqlite 数据库迁移到 Postgres(使用 this 指南)时,调度程序似乎不再分配任务。 DAG 卡在 "running" 状态,但任何 DAG 中的任务都不会被分配状态。
我采取的故障排除步骤
- Web 服务器和调度程序是 运行
- DAG 设置为 "ON"。
- 在 运行 airflow initdb 之后,public 模式填充了所有气流 tables。
- 我的连接字符串中的用户拥有数据库以及 public 架构中的每个 table。
调度程序日志
调度程序日志保留 post 发出此警告,但我无法使用它来找到除 this 其他 post 之外的任何有用信息,但没有任何响应。
[2020-04-08 09:39:17,907] {dag_processing.py:556} INFO - Launched DagFileProcessorManager with pid: 44144
[2020-04-08 09:39:17,916] {settings.py:54} INFO - Configured default timezone <Timezone [UTC]>
[2020-04-08 09:39:17,927] {settings.py:253} INFO - settings.configure_orm(): Using pool settings. pool_size=5, max_overflow=10, pool_recycle=1800, pid=44144
[2020-04-08 09:39:19,914] {dag_processing.py:663} WARNING - DagFileProcessorManager (PID=44144) exited with exit code -11 - re-launching
环境
- PostgreSQL 版本 12.1
- Airflow v1.10.9
- 这就是 conda 虚拟环境中 MacBook Pro (Catalina) 上的全部 运行。
Postgres 是使用 postgresapp 安装的。将 postgres 应用程序更新到版本 2.3.3e。 PostgresQL 仍然是 12.1 版本,但通过更新 postgresapp,问题已解决。