使用堆栈驱动程序日志来计算Cloud Composer的任务持续时间气流任务的脚本

问题描述

我是使用GCP的Composer服务的新手,并想计算每个任务运行的持续时间。我是否可以运行任何脚本来从Stackdriver日志中获取Airflow DAG的每个任务的持续时间。我可以通过减去任务的开始和结束时间来手动计算持续时间,但是我想使用脚本来完成。请任何人在这里帮助我。我附上正在生成的日志的屏幕截图,供您参考。

enter image description here

解决方法

您可以在“监控工作流(DAG)”和Celery Executor中检查气流指标。为了帮助您监视工作流程的运行效率,可以使用以下工作流程指标:

  1. 运行的工作流程数量:composer.googleapis.com/workflow/run_count
  2. 每个工作流程的运行时间:composer.googleapis.com/workflow/run_duration
  3. 任务运行数量:composer.googleapis.com/workflow/task/run_count
  4. 每个任务的持续时间:composer.googleapis.com/workflow/task/run_duration

如您所见,请使用composer.googleapis.com/workflow/task/run_duration API。 云监控仅显示完成的工作流程和任务运行(成功或失败)的指标。另外,请查看official documentation