AWS Glue中的ConcurrentRunsExceedsException

问题描述

这是我的胶水配置： MaxConcurrentRuns：3 AllocatedCapacity：30（MaxCapactity：30）

我正在尝试加载16个文件，而Glue正在为前3个文件创建3个实例，并成功完成，然后在下一批（3个文件）中，没有触发1或2个粘合作业，并获得了ConcurrentRunsExceedsExcpetion。 这不是一致的错误，也不是针对特定文件的错误，但是在16次运行中，有2个或3个作业给出此错误。 请提出建议或建议，这将是什么问题并可以解决？

解决方法

由于错误指示此问题正在发生，因为Glue正在尝试启动新实例，而您的作业已经有3个实例正在执行/运行。

您需要确保没有并行运行它们，这将超出配置的并发运行。可以通过将工作呼叫间隔几秒钟来解决此问题。