如何在 spark 中顺序执行?

问题描述

我正在使用 df.map 在每一行上进行转换来迭代数据帧。现在,当我构建我的包时,下面的代码 displayResults 将结果打印为 0,即它不采用每行转换后获得的值。我意识到 displayResults 与 map 方法并行运行。我怎样才能让这个方法调用等待 inputDataFrame.map 方法的完成。谢谢:)

class Obj{
  var total=_
  var avail=_
  def MyMethod(inputDataFrame: DataFrame): Unit={
    val finalvalue=inputDataFrame.map(r=>{
       //apply transformations on row
       total=r.getInt(0)+r.getInt(1)
       avail=helper(r)
    })
    displayResults(total,avail)
  }
  displayResults(total: Int,avail: Int): Unit={
    println("Results "+(avail/total))
  }
}

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)