hadoop2.6.0-cdh5.15.1编译源码支持压缩

2024-05-15 01:58

本文主要是介绍hadoop2.6.0-cdh5.15.1编译源码支持压缩,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

如果不想自己编译,可以直接从我这里直接下载
链接:https://pan.baidu.com/s/1jUTH-29rdKwAJ0_5vRQ1iA 密码:7juw

文章目录

    • 一 为什么要编译
    • 二 环境条件
    • 三 安装依赖
    • 四 安装软件
      • 4.1 jdk1.7
      • 4.2 maven
      • 4.3 protobuf
    • 五 编译hadoop
    • 六 伪分布式部署

一 为什么要编译

直接从官网上下载的hadoop-2.6.0-cdh5.15.1.tar.gz部署后,不支持压缩,生产上是不可接受的,我们可以用下面命令查看:

hadoop checknative

在这里插入图片描述
所以我们要进行编译,让他支持压缩

二 环境条件

源码下载地址:http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.15.1-src.tar.gz
下载之后解压一下,然后我们进入源码文件夹
需要什么环境我们也不知道,我们看下源码里有个BUILDING.txt文件,里面应该有说明
在这里插入图片描述

软件版本百度连接
hadoophadoop2.6.0-cdh5.15.1-src.tar.gz链接:https://pan.baidu.com/s/1cdQl8zf_dIZJccL3FnAYhA 密码:8nor
jdkjdk-7u80-linux-x64.tar.gz链接:https://pan.baidu.com/s/1S-qrnlcATTib4ktj8RqVvA 密码:vziv
mavenapache-maven-3.6.1-bin.tar.gz链接:https://pan.baidu.com/s/16TLBiahgwg1yly2aT3b_RA 密码:o519
protobufprotobuf-2.5.0.tar.gz链接:https://pan.baidu.com/s/19OwTHdwetQHuNuGihPSnzg 密码:bt97

三 安装依赖

 yum install -y svn ncurses-develyum install -y gcc gcc-c++ make cmakeyum install -y openssl openssl-devel svn ncurses-devel zlib-devel libtoolyum install -y snappy snappy-devel bzip2 bzip2-devel \lzo lzo-devel lzop autoconf automake cmake

四 安装软件

4.1 jdk1.7

编译的JDK版本必须是1.7,1.8的JDK会导致编译失败,采坑
1.先解压

 mkdir /usr/javatar -zxvf /home/hadoop/software/jdk-7u80-linux-x64.tar.gz -C /usr/javachown -R  root:root /usr/java

在这里插入图片描述
2.配置环境变量

vim /etc/profile 
#添加如下两行环境变量
export JAVA_HOME=/usr/java/jdk1.7.0_80
export PATH=$JAVA_HOME/bin:$PATH
#环境变量生效
source /etc/profile

在这里插入图片描述

4.2 maven

1.首先解压

tar -zxvf ~/software/apache-maven-3.6.1-bin.tar.gz -C ~/app/

2.配置环境变量

#修改haoop用户的环境变量
vim ~/.bash_profile
export MAVEN_HOME=/home/hadoop/app/apache-maven-3.6.1
#MAVEN_OPTS设置了maven运行的内存,防止内存太小导致编译失败
export MAVEN_OPTS="-Xms1024m -Xmx1024m"
export PATH=$MAVEN_HOME/bin:$PATH
source ~/.bash_profile

在这里插入图片描述
3.设置settings.xml

vim ~/app/apache-maven-3.6.1/conf/settings.xml
#配置maven的本地仓库位置
<localRepository>/home/hadoop/app/maven_repo</localRepository>
#添加阿里云中央仓库地址,注意一定要写在<mirrors></mirrors>之间
<mirror><id>nexus-aliyun</id><mirrorOf>central</mirrorOf><name>Nexus aliyun</name><url>http://maven.aliyun.com/nexus/content/groups/public</url>
</mirror>

4.3 protobuf

1.解压

tar -zxvf ~/software/protobuf-2.5.0.tar.gz -C ~/app/

2.编译

cd ~/app/protobuf-2.5.0/
#  --prefix= 是用来待会编译好的包放在为路径
./configure  --prefix=/home/hadoop/app/protobuf-2.5.0
#编译以及安装
make
make install

3.环境变量

vim ~/.bash_profile
#追加如下两行内容,未编译前是没有bin目录的
export PROTOBUF_HOME=/home/hadoop/app/protobuf-2.5.0
export PATH=$PROTOBUF_HOME/bin:$PATH
#生效环境变量
source ~/.bash_profile 

在这里插入图片描述

五 编译hadoop

1.编译之前,把pom.xml文件里的https改成http
在这里插入图片描述
编译的话,我们也不知道怎么编译,我们继续看官方提供的BUILDING.txt
在这里插入图片描述
注意:编译的过程中99%的问题是网络问题,如果有遇到jar,pom文件下载不了,根据提示的网站,手动下载放到maven的仓库里

编译命令:(下面加上了clean,因为不会一次编译成功)

mvn clean package -Pdist,native,docs,src -DskipTests -Dtar

编译成功的结果
在这里插入图片描述
我们看下编译的tar文件在哪里
在这里插入图片描述

六 伪分布式部署

部署可以看我之前的博客:
https://guguoyu.blog.csdn.net/article/details/97527526

这篇关于hadoop2.6.0-cdh5.15.1编译源码支持压缩的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/990488

相关文章

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

Go语言编译环境设置教程

《Go语言编译环境设置教程》Go语言支持高并发(goroutine)、自动垃圾回收,编译为跨平台二进制文件,云原生兼容且社区活跃,开发便捷,内置测试与vet工具辅助检测错误,依赖模块化管理,提升开发效... 目录Go语言优势下载 Go  配置编译环境配置 GOPROXYIDE 设置(VS Code)一些基本

使用zip4j实现Java中的ZIP文件加密压缩的操作方法

《使用zip4j实现Java中的ZIP文件加密压缩的操作方法》本文介绍如何通过Maven集成zip4j1.3.2库创建带密码保护的ZIP文件,涵盖依赖配置、代码示例及加密原理,确保数据安全性,感兴趣的... 目录1. zip4j库介绍和版本1.1 zip4j库概述1.2 zip4j的版本演变1.3 zip4

java使用protobuf-maven-plugin的插件编译proto文件详解

《java使用protobuf-maven-plugin的插件编译proto文件详解》:本文主要介绍java使用protobuf-maven-plugin的插件编译proto文件,具有很好的参考价... 目录protobuf文件作为数据传输和存储的协议主要介绍在Java使用maven编译proto文件的插件

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

Visual Studio 2022 编译C++20代码的图文步骤

《VisualStudio2022编译C++20代码的图文步骤》在VisualStudio中启用C++20import功能,需设置语言标准为ISOC++20,开启扫描源查找模块依赖及实验性标... 默认创建Visual Studio桌面控制台项目代码包含C++20的import方法。右键项目的属性:

k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)

《k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)》本文记录在K8s上运行的MySQL/MariaDB备份方案,通过工具容器执行mysqldump,结合定时任务实... 目录前言一、获取需要备份的数据库的信息二、备份步骤1.准备工作(X86)1.准备工作(arm)2.手

华为鸿蒙HarmonyOS 5.1官宣7月开启升级! 首批支持名单公布

《华为鸿蒙HarmonyOS5.1官宣7月开启升级!首批支持名单公布》在刚刚结束的华为Pura80系列及全场景新品发布会上,除了众多新品的发布,还有一个消息也点燃了所有鸿蒙用户的期待,那就是Ha... 在今日的华为 Pura 80 系列及全场景新品发布会上,华为宣布鸿蒙 HarmonyOS 5.1 将于 7

SpringBoot实现文件记录日志及日志文件自动归档和压缩

《SpringBoot实现文件记录日志及日志文件自动归档和压缩》Logback是Java日志框架,通过Logger收集日志并经Appender输出至控制台、文件等,SpringBoot配置logbac... 目录1、什么是Logback2、SpringBoot实现文件记录日志,日志文件自动归档和压缩2.1、

8种快速易用的Python Matplotlib数据可视化方法汇总(附源码)

《8种快速易用的PythonMatplotlib数据可视化方法汇总(附源码)》你是否曾经面对一堆复杂的数据,却不知道如何让它们变得直观易懂?别慌,Python的Matplotlib库是你数据可视化的... 目录引言1. 折线图(Line Plot)——趋势分析2. 柱状图(Bar Chart)——对比分析3