如果变量不是广播变量,如何将数据从驱动程序传输到执行程序

问题描述

我已经使用数据帧上的头部动作(比如说“ val1”)在spark程序中收集了一些值。因此,“ val1”驻留在驱动程序存储器中。我需要在重数据帧上的其他转换中使用此“ val1”。我想知道如果'val1'未转换为广播变量时​​spark的行为。会像广播变量一样将“ val1”发送给执行者吗?还是会重载大量数据帧的数据?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)