运行大型Hive查询时进行NiFi负载平衡

问题描述

我处于这种情况,我需要运行Hive选择查询并将查询结果导出到csv文件中。

我正在使用 SelectHive3QL 处理器从蜂巢中导出数据并使用 UpdateAttribute 处理器重命名csv文件,然后使用 PutSFTP将csv文件推送到sftp服务器b 处理器。

来到我的NiFi群集中,我正在5个节点群集中运行此流,每个RAM为256 GB。

我的问题是,即使我在5节点集群中运行,也只有一个线程在运行,大约需要1个小时才能完成。我在寻找解决方案,如何通过在分布式模式下运行查询来提高性能,但到目前为止没有找到合适的解决方案。

请帮帮我,如何在NiFi节点之间实现负载平衡以及如何在多个节点上分配查询?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

依赖报错 idea导入项目后依赖报错,解决方案:https://blog....
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下...
错误1:gradle项目控制台输出为乱码 # 解决方案:https://bl...
错误还原:在查询的过程中,传入的workType为0时,该条件不起...
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct...