Redhat 6.4-x64 编译 Hadoop-2.7.1并分布式安装

2024-06-06 06:48

本文主要是介绍Redhat 6.4-x64 编译 Hadoop-2.7.1并分布式安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章中所用到的软件百度网盘,方便下载
http://pan.baidu.com/s/1kTrNXL9
1.系统环境

[root@master ~]# uname -a
Linux master 2.6.32-358.el6.x86_64 #1 SMP Tue Jan 29 11:47:41 EST 2013 x86_64 x86_64 x86_64 GNU/Linux或者[root@master /]# cat /etc/redhat-release
Red Hat Enterprise Linux Server release 6.4 (Santiago)

2.安装前的准备
2.1关闭防火墙

--查看防火墙状态
[root@master ~]# service iptables status--停止防火墙
[root@master ~]# service iptables stop--永久禁止防火墙
[root@master ~]# chkconfig iptables off

2.2查看ssh是否安装

--第一种方式:
[root@master ~]# which ssh
/usr/bin/ssh--第二种方式
[root@master ~]# service sshd status
openssh-daemon (pid  1983) is running...--第三种方式
[root@master ~]# rpm -qa openssh openssl--第四种方式(查看是否启动)
[root@master ~]# ps -ef|grep ssh

2.3配置网卡

[root@master ~]# cat /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
HWADDR=08:00:27:C0:18:81
TYPE=Ethernet
UUID=8f07e2a4-702d-4e4e-a7c9-a0d4d1c9a880
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=none
IPADDR=192.168.8.205
NETMASK=255.255.255.0
GATEWAY=192.168.8.1
DNS1=221.228.255.1

2.4配置hosts

[root@master ~]# cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6--添加如下内容
192.168.8.205 master
192.168.8.223 slave

2.5修改hostname为master

[root@master ~]# cat /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=master

2.6创建hadoop用户

--创建用户
[root@master ~]# useradd hadoop--配置用户密码
[root@master ~]# passwd hadoop

2.7配置ssh无密码登陆

在master机器上操作

--切换hadoop用户
[root@master ~]# su - hadoop--生成需要建立ssh的私钥和公钥,连续3次回车建立公钥文件(id_rsa.pub)和私钥文件(id_rsa)
[hadoop@master ~]$ ssh-keygen -t rsa--把id_rsa.pub追加到授权的authorized_keys里面去
[hadoop@master ~]$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys--修改权限        
[hadoop@master ~]$ chmod 600 ~/.ssh/authorized_keys       --切换到root用户,修改ssh配置文件
[hadoop@master ~]$ exit
[root@master ~]# vim /etc/ssh/sshd_config   RSAAuthentication yes #启用RSA认证PubkeyAuthentication yes #启用公钥私钥配对认证方式AuthorizedKeysFile .ssh/authorized_keys #公钥文件路径

登陆到slave机器上

--切换到hadoop用户
[root@slave ~]# su - hadoop --创建.ssh文件夹
[hadoop@slave ~]$ mkdir ~/.ssh--切换到maste主机上的hadoop用户下
[root@master ~]# su - hadoop --将密钥scp到slave机器上
[hadoop@master ~]$ scp ~/.ssh/id_rsa.pub hadoop@slave:~/.ssh--切换到slave机器上的hadoop下
[hadoop@slave ~]$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys--授予权限(master和slave都要授权)
chmod 700 ~/.ssh/
chmod 700 /home/hadoop
chmod 600 ~/.ssh/authorized_keys

3.安装必须的软件
3.1安装jdk

--创建jdk目录
mkdir /usr/java
将下载的jdk-8u60-linux-x64.tar.gz解压到java目录下--配置jdk环境
[root@master ~]# vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_60
export PATH=$PATH:$JAVA_HOME/bin--修改生效
[root@master ~]# source profile --测试是否安装成功
[hadoop@master ~]$ java -version
java version "1.5.0"
gij (GNU libgcj) version 4.4.7 20120313 (Red Hat 4.4.7-3)Copyright (C) 2007 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.  There is NO
warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.这里有点问题,显示的是系统自带的java,替换自己安装的见:
http://blog.csdn.net/u011364306/article/details/48375653

3.2安装其他组件

[root@master ~]#yum install svn ncurses-devel gcc* lzo-devel zlib-devel autoconf automake libtool cmake openssl-devel

3.3安装maven

--下载apache-maven,将下载后的文件拷贝到 /usr/local/目录下。
apache-maven-3.3.3-bin.tar.gz--解压文件
[root@master local]# tar xf apache-maven-3.3.3-bin.tar.gz--给maven做一个软连接
[root@master local]# ln -s apache-maven-3.3.3 apache-maven--配置maven环境
[root@master ~]# vim /etc/profile
export M2_HOME=/usr/local/apache-maven

这篇关于Redhat 6.4-x64 编译 Hadoop-2.7.1并分布式安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1035379

相关文章

Nginx分布式部署流程分析

《Nginx分布式部署流程分析》文章介绍Nginx在分布式部署中的反向代理和负载均衡作用,用于分发请求、减轻服务器压力及解决session共享问题,涵盖配置方法、策略及Java项目应用,并提及分布式事... 目录分布式部署NginxJava中的代理代理分为正向代理和反向代理正向代理反向代理Nginx应用场景

Java 线程池+分布式实现代码

《Java线程池+分布式实现代码》在Java开发中,池通过预先创建并管理一定数量的资源,避免频繁创建和销毁资源带来的性能开销,从而提高系统效率,:本文主要介绍Java线程池+分布式实现代码,需要... 目录1. 线程池1.1 自定义线程池实现1.1.1 线程池核心1.1.2 代码示例1.2 总结流程2. J

python依赖管理工具UV的安装和使用教程

《python依赖管理工具UV的安装和使用教程》UV是一个用Rust编写的Python包安装和依赖管理工具,比传统工具(如pip)有着更快、更高效的体验,:本文主要介绍python依赖管理工具UV... 目录前言一、命令安装uv二、手动编译安装2.1在archlinux安装uv的依赖工具2.2从github

JDK8(Java Development kit)的安装与配置全过程

《JDK8(JavaDevelopmentkit)的安装与配置全过程》文章简要介绍了Java的核心特点(如跨平台、JVM机制)及JDK/JRE的区别,重点讲解了如何通过配置环境变量(PATH和JA... 目录Java特点JDKJREJDK的下载,安装配置环境变量总结Java特点说起 Java,大家肯定都

RabbitMQ 延时队列插件安装与使用示例详解(基于 Delayed Message Plugin)

《RabbitMQ延时队列插件安装与使用示例详解(基于DelayedMessagePlugin)》本文详解RabbitMQ通过安装rabbitmq_delayed_message_exchan... 目录 一、什么是 RabbitMQ 延时队列? 二、安装前准备✅ RabbitMQ 环境要求 三、安装延时队

linux系统上安装JDK8全过程

《linux系统上安装JDK8全过程》文章介绍安装JDK的必要性及Linux下JDK8的安装步骤,包括卸载旧版本、下载解压、配置环境变量等,强调开发需JDK,运行可选JRE,现JDK已集成JRE... 目录为什么要安装jdk?1.查看linux系统是否有自带的jdk:2.下载jdk压缩包2.解压3.配置环境

Redis实现分布式锁全过程

《Redis实现分布式锁全过程》文章介绍Redis实现分布式锁的方法,包括使用SETNX和EXPIRE命令确保互斥性与防死锁,Redisson客户端提供的便捷接口,以及Redlock算法通过多节点共识... 目录Redis实现分布式锁1. 分布式锁的基本原理2. 使用 Redis 实现分布式锁2.1 获取锁

Python库 Django 的简介、安装、用法入门教程

《Python库Django的简介、安装、用法入门教程》Django是Python最流行的Web框架之一,它帮助开发者快速、高效地构建功能强大的Web应用程序,接下来我们将从简介、安装到用法详解,... 目录一、Django 简介 二、Django 的安装教程 1. 创建虚拟环境2. 安装Django三、创

linux安装、更新、卸载anaconda实践

《linux安装、更新、卸载anaconda实践》Anaconda是基于conda的科学计算环境,集成1400+包及依赖,安装需下载脚本、接受协议、设置路径、配置环境变量,更新与卸载通过conda命令... 目录随意找一个目录下载安装脚本检查许可证协议,ENTER就可以安装完毕之后激活anaconda安装更

Jenkins的安装与简单配置过程

《Jenkins的安装与简单配置过程》本文简述Jenkins在CentOS7.3上安装流程,包括Java环境配置、RPM包安装、修改JENKINS_HOME路径及权限、启动服务、插件安装与系统管理设置... 目录www.chinasem.cnJenkins安装访问并配置JenkinsJenkins配置邮件通知