ETL日志数据到HBASE表中,程序代码优化点

1.创建表的时候

设置表的数据压缩

创建预分区

设置读取表中的数据不缓存

2.spark程序的优化

.filter(tuple =>eventTypeList.contains(EventEnum.valueOfAlias(tuple._1)))

eventTypeList是Driver里面,filter是在Executor里面task运行

如果是一个数据库对应一个分区,一个分区对应一个Task,假设有1000个分区
如果eventTypeList1M的话,将消耗1GB
可以考虑一个executor存储一份,如果有10个executor存储10M就好了

Spark supports two types of shared variables

broadcast variables:广播变量
which can be used to cache a value in memory on all nodes,
使用广播变量将集合类别 广播出去:将数据发送到每一个executor里面

accumulators:累加器
which are variables that are only “added” to, such as counters and sums.

3.使用HFileOuputFile

向HBASE表中存储数据的时候

put方式
putData ->WAL->MemStore ->StoreFile(HFile)

Hfile方式
Date –>Hfile ->load table

相关文章

超详细的记录了HBase 集群搭建的整个过程,以及搭建过程出现...
头歌 HBase(相关的五个实验)
1.创建一个学生信息表,用来存储学生的姓名(姓名作为行键,...
大数据课程综合实验案例1 案例简介1.1 案例目的1.2 适用对象...
HBase从浅入深,(初级)什么是HBase,模型,NOSQL,架构,n...
Hadoop之Hbase安装和配置