如何在AWS数据块上设置spark.task.maxFailures?

问题描述

我想将spark.task.maxFailures设置为大于4的值。使用Databricks 6.4运行时,如何设置该值?

当我执行spark.conf.get(“ spark.task.maxFailures”)时,出现以下错误

java.util.NoSuchElementException: spark.task.maxFailures

有人以前在数据块上设置过此选项吗?

我知道我可以使用

进行设置
spark.conf.set("spark.task.maxFailures",10)

但是不确定是必须在群集启动时设置还是可以在此之后设置?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)