配置Hadoop支持LZO

0. 环境准备

  maven(下载安装,配置环境变量,修改sitting.xml加阿里云镜像)

  gcc-c++
  zlib-devel
  autoconf
  automake
  libtool

  通过yum安装即可,yum -y install gcc-c++ lzo-devel zlib-devel autoconf automake libtool

1. 下载、安装并编译LZO

  wget http://www.oberhumer.com/opensource/lzo/download/lzo-2.10.tar.gz

  tar -zxvf lzo-2.10.tar.gz

  cd lzo-2.10

  ./configure -prefix=/usr/local/hadoop/lzo/

  make

  make install

2. 编译hadoop-lzo源码

2.1 下载hadoop-lzo的源码

  下载地址:https://github.com/twitter/hadoop-lzo/archive/master.zip

  也可以执行wget https://github.com/twitter/hadoop-lzo/archive/master.zip

2.2 解压之后,修改pom.xml

	<hadoop.current.version>2.7.2</hadoop.current.version>

2.3 声明两个临时环境变量

 	export C_INCLUDE_PATH=/usr/local/hadoop/lzo/include
 	export LIBRARY_PATH=/usr/local/hadoop/lzo/lib 

2.4 编译

  进入hadoop-lzo-master,执行maven编译命令
  mvn package -Dmaven.test.skip=true

2.5 进入target

  hadoop-lzo-0.4.21-SNAPSHOT.jar 即编译成功的hadoop-lzo组件

相关文章

hadoop搭建准备工作三台虚拟机:master、node1、node2检查时...
文件的更名和移动:    获取文件详细信息       遇...
目录一、背景1)小文件是如何产生的?2)文件块大小设置3)H...
目录一、概述二、HadoopDataNode多目录磁盘配置1)配置hdfs-...
平台搭建(伪分布式)伪分布式搭建在VM中搭建std-master修改...
 一、HDFS概述 1.1、HDFS产出背景及定义 1.1.1、HDFS产生...