Airflow 中的远程日志

Remote logs in Airflow

我有两台机器。 Machine1:气流网络服务器,气流调度器。 Machine2:特定队列上的气流工作者。我正在使用芹菜执行器。 machine2 上的任务成功运行(写入和删除本地驱动器上的文件),但在 machine1 的网络 UI 中我没有读取日志文件。

*** 日志文件不存在:/home/airflow/logs/delete_images_by_ttl/delete_images/2018-10-29T12:24:23.299741+00:00/1.log

*** 取自:http://localhost-int.localdomain:8793/log/delete_images_by_ttl/delete_images/2018-10-29T12:24:23.299741+00:00/1.log

*** 无法从 worker 获取日志文件。 HTTPConnectionPool(host='localhost-int.localdomain', port=8793): url 超过最大重试次数: /log/delete_images_by_ttl/delete_images/2018-10-29T12:24:23.299741+00:00/1.log

要解决此问题,请编辑您的 /etc/hosts。为 airflow webserver 添加 ip 和 dns-name

HTTPConnectionPool 表示网络服务器无法与工作节点通信。

/etc/hosts 文件中添加工作节点主机名

下面也验证一下

base_log_folder = /home/airflow/logs/

sudo chmod -R 777 /home/airflow/logs/