如何列出气流工作舱中正在运行的 dag

编程问答 2022-05-30

问题描述

我们有 3 个 Composer GKE 节点和 3 个工作器 Pod，它们均匀分布在所有 3 个节点中。我需要知道如何检查哪个 DAG 或任务当前正在哪个 pod 中运行。我试图运行airflow list_dag，但它显示了我认为的所有dag。我只需要知道哪个 dag 在哪个 pod 中运行。是否可以将 Pod 从一个节点移动到另一个节点。有时我的 pod 没有均匀分布在所有 3 个节点中。

解决方法

有两种方法可以从 Airflow UI 获取此信息：

  • 您可以转到浏览 -> 任务实例并获取主机名以了解任务在哪个工作线程上运行。您还可以应用过滤器等。

  • 或者您可以转到数据分析来运行一个即席查询，例如：

SELECT dag_id,task_id,state,hostname 
FROM task_instance
WHERE state = "running"
airflow-workergoogle-cloud-composer