问题描述
我是使用GCP的Composer服务的新手,并想计算每个任务运行的持续时间。我是否可以运行任何脚本来从Stackdriver日志中获取Airflow DAG的每个任务的持续时间。我可以通过减去任务的开始和结束时间来手动计算持续时间,但是我想使用脚本来完成。请任何人在这里帮助我。我附上正在生成的日志的屏幕截图,供您参考。
解决方法
您可以在“监控工作流(DAG)”和Celery Executor中检查气流指标。为了帮助您监视工作流程的运行效率,可以使用以下工作流程指标:
- 运行的工作流程数量:
composer.googleapis.com/workflow/run_count
- 每个工作流程的运行时间:
composer.googleapis.com/workflow/run_duration
- 任务运行数量:
composer.googleapis.com/workflow/task/run_count
- 每个任务的持续时间:
composer.googleapis.com/workflow/task/run_duration
如您所见,请使用composer.googleapis.com/workflow/task/run_duration
API。
云监控仅显示完成的工作流程和任务运行(成功或失败)的指标。另外,请查看official documentation。