hadoop2.6.0-cdh5.15.1编译源码支持压缩

2024-05-15 01:58

本文主要是介绍hadoop2.6.0-cdh5.15.1编译源码支持压缩,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

如果不想自己编译,可以直接从我这里直接下载
链接:https://pan.baidu.com/s/1jUTH-29rdKwAJ0_5vRQ1iA 密码:7juw

文章目录

    • 一 为什么要编译
    • 二 环境条件
    • 三 安装依赖
    • 四 安装软件
      • 4.1 jdk1.7
      • 4.2 maven
      • 4.3 protobuf
    • 五 编译hadoop
    • 六 伪分布式部署

一 为什么要编译

直接从官网上下载的hadoop-2.6.0-cdh5.15.1.tar.gz部署后,不支持压缩,生产上是不可接受的,我们可以用下面命令查看:

hadoop checknative

在这里插入图片描述
所以我们要进行编译,让他支持压缩

二 环境条件

源码下载地址:http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.15.1-src.tar.gz
下载之后解压一下,然后我们进入源码文件夹
需要什么环境我们也不知道,我们看下源码里有个BUILDING.txt文件,里面应该有说明
在这里插入图片描述

软件版本百度连接
hadoophadoop2.6.0-cdh5.15.1-src.tar.gz链接:https://pan.baidu.com/s/1cdQl8zf_dIZJccL3FnAYhA 密码:8nor
jdkjdk-7u80-linux-x64.tar.gz链接:https://pan.baidu.com/s/1S-qrnlcATTib4ktj8RqVvA 密码:vziv
mavenapache-maven-3.6.1-bin.tar.gz链接:https://pan.baidu.com/s/16TLBiahgwg1yly2aT3b_RA 密码:o519
protobufprotobuf-2.5.0.tar.gz链接:https://pan.baidu.com/s/19OwTHdwetQHuNuGihPSnzg 密码:bt97

三 安装依赖

 yum install -y svn ncurses-develyum install -y gcc gcc-c++ make cmakeyum install -y openssl openssl-devel svn ncurses-devel zlib-devel libtoolyum install -y snappy snappy-devel bzip2 bzip2-devel \lzo lzo-devel lzop autoconf automake cmake

四 安装软件

4.1 jdk1.7

编译的JDK版本必须是1.7,1.8的JDK会导致编译失败,采坑
1.先解压

 mkdir /usr/javatar -zxvf /home/hadoop/software/jdk-7u80-linux-x64.tar.gz -C /usr/javachown -R  root:root /usr/java

在这里插入图片描述
2.配置环境变量

vim /etc/profile 
#添加如下两行环境变量
export JAVA_HOME=/usr/java/jdk1.7.0_80
export PATH=$JAVA_HOME/bin:$PATH
#环境变量生效
source /etc/profile

在这里插入图片描述

4.2 maven

1.首先解压

tar -zxvf ~/software/apache-maven-3.6.1-bin.tar.gz -C ~/app/

2.配置环境变量

#修改haoop用户的环境变量
vim ~/.bash_profile
export MAVEN_HOME=/home/hadoop/app/apache-maven-3.6.1
#MAVEN_OPTS设置了maven运行的内存,防止内存太小导致编译失败
export MAVEN_OPTS="-Xms1024m -Xmx1024m"
export PATH=$MAVEN_HOME/bin:$PATH
source ~/.bash_profile

在这里插入图片描述
3.设置settings.xml

vim ~/app/apache-maven-3.6.1/conf/settings.xml
#配置maven的本地仓库位置
<localRepository>/home/hadoop/app/maven_repo</localRepository>
#添加阿里云中央仓库地址,注意一定要写在<mirrors></mirrors>之间
<mirror><id>nexus-aliyun</id><mirrorOf>central</mirrorOf><name>Nexus aliyun</name><url>http://maven.aliyun.com/nexus/content/groups/public</url>
</mirror>

4.3 protobuf

1.解压

tar -zxvf ~/software/protobuf-2.5.0.tar.gz -C ~/app/

2.编译

cd ~/app/protobuf-2.5.0/
#  --prefix= 是用来待会编译好的包放在为路径
./configure  --prefix=/home/hadoop/app/protobuf-2.5.0
#编译以及安装
make
make install

3.环境变量

vim ~/.bash_profile
#追加如下两行内容,未编译前是没有bin目录的
export PROTOBUF_HOME=/home/hadoop/app/protobuf-2.5.0
export PATH=$PROTOBUF_HOME/bin:$PATH
#生效环境变量
source ~/.bash_profile 

在这里插入图片描述

五 编译hadoop

1.编译之前,把pom.xml文件里的https改成http
在这里插入图片描述
编译的话,我们也不知道怎么编译,我们继续看官方提供的BUILDING.txt
在这里插入图片描述
注意:编译的过程中99%的问题是网络问题,如果有遇到jar,pom文件下载不了,根据提示的网站,手动下载放到maven的仓库里

编译命令:(下面加上了clean,因为不会一次编译成功)

mvn clean package -Pdist,native,docs,src -DskipTests -Dtar

编译成功的结果
在这里插入图片描述
我们看下编译的tar文件在哪里
在这里插入图片描述

六 伪分布式部署

部署可以看我之前的博客:
https://guguoyu.blog.csdn.net/article/details/97527526

这篇关于hadoop2.6.0-cdh5.15.1编译源码支持压缩的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/990488

相关文章

使用Python实现矢量路径的压缩、解压与可视化

《使用Python实现矢量路径的压缩、解压与可视化》在图形设计和Web开发中,矢量路径数据的高效存储与传输至关重要,本文将通过一个Python示例,展示如何将复杂的矢量路径命令序列压缩为JSON格式,... 目录引言核心功能概述1. 路径命令解析2. 路径数据压缩3. 路径数据解压4. 可视化代码实现详解1

SpringBoot使用GZIP压缩反回数据问题

《SpringBoot使用GZIP压缩反回数据问题》:本文主要介绍SpringBoot使用GZIP压缩反回数据问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录SpringBoot使用GZIP压缩反回数据1、初识gzip2、gzip是什么,可以干什么?3、Spr

Java 正则表达式URL 匹配与源码全解析

《Java正则表达式URL匹配与源码全解析》在Web应用开发中,我们经常需要对URL进行格式验证,今天我们结合Java的Pattern和Matcher类,深入理解正则表达式在实际应用中... 目录1.正则表达式分解:2. 添加域名匹配 (2)3. 添加路径和查询参数匹配 (3) 4. 最终优化版本5.设计思

idea maven编译报错Java heap space的解决方法

《ideamaven编译报错Javaheapspace的解决方法》这篇文章主要为大家详细介绍了ideamaven编译报错Javaheapspace的相关解决方法,文中的示例代码讲解详细,感兴趣的... 目录1.增加 Maven 编译的堆内存2. 增加 IntelliJ IDEA 的堆内存3. 优化 Mave

Java图片压缩三种高效压缩方案详细解析

《Java图片压缩三种高效压缩方案详细解析》图片压缩通常涉及减少图片的尺寸缩放、调整图片的质量(针对JPEG、PNG等)、使用特定的算法来减少图片的数据量等,:本文主要介绍Java图片压缩三种高效... 目录一、基于OpenCV的智能尺寸压缩技术亮点:适用场景:二、JPEG质量参数压缩关键技术:压缩效果对比

Java调用C++动态库超详细步骤讲解(附源码)

《Java调用C++动态库超详细步骤讲解(附源码)》C语言因其高效和接近硬件的特性,时常会被用在性能要求较高或者需要直接操作硬件的场合,:本文主要介绍Java调用C++动态库的相关资料,文中通过代... 目录一、直接调用C++库第一步:动态库生成(vs2017+qt5.12.10)第二步:Java调用C++

SpringBoot3实现Gzip压缩优化的技术指南

《SpringBoot3实现Gzip压缩优化的技术指南》随着Web应用的用户量和数据量增加,网络带宽和页面加载速度逐渐成为瓶颈,为了减少数据传输量,提高用户体验,我们可以使用Gzip压缩HTTP响应,... 目录1、简述2、配置2.1 添加依赖2.2 配置 Gzip 压缩3、服务端应用4、前端应用4.1 N

Java编译生成多个.class文件的原理和作用

《Java编译生成多个.class文件的原理和作用》作为一名经验丰富的开发者,在Java项目中执行编译后,可能会发现一个.java源文件有时会产生多个.class文件,从技术实现层面详细剖析这一现象... 目录一、内部类机制与.class文件生成成员内部类(常规内部类)局部内部类(方法内部类)匿名内部类二、

SpringKafka消息发布之KafkaTemplate与事务支持功能

《SpringKafka消息发布之KafkaTemplate与事务支持功能》通过本文介绍的基本用法、序列化选项、事务支持、错误处理和性能优化技术,开发者可以构建高效可靠的Kafka消息发布系统,事务支... 目录引言一、KafkaTemplate基础二、消息序列化三、事务支持机制四、错误处理与重试五、性能优

一文详解SpringBoot响应压缩功能的配置与优化

《一文详解SpringBoot响应压缩功能的配置与优化》SpringBoot的响应压缩功能基于智能协商机制,需同时满足很多条件,本文主要为大家详细介绍了SpringBoot响应压缩功能的配置与优化,需... 目录一、核心工作机制1.1 自动协商触发条件1.2 压缩处理流程二、配置方案详解2.1 基础YAML