Centos 7 离线安装Cloudera Manager6 和CDH6.3.1

2024-04-30 07:58
文章标签 安装 centos 离线 cloudera cdh6.3 manager6

本文主要是介绍Centos 7 离线安装Cloudera Manager6 和CDH6.3.1，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

零、前言

之前写过一篇CDH5的，本文是在之前操作基础上进行的
Centos 7 离线安装Cloudera Manager5 和CDH5.13.0

CDH6与CDH5安装的整体流程基本一致，而且简单了不少。

一、前期准备

  1. 安装环境
    系统配置：

     系统：centos 7 64位

    关于内存，《Hbase权威指南》中master建议24G内存，而slave机器则建议24G及以上配置。机器内存过小，可能会出现各种莫名其妙的问题
    关于硬盘，作为slave的机器不建议使用RAID，因为RAID比单个磁盘慢。Master使用RAID只要是为了关键性的文件系统数据

  2. 需要下载的安装包

    • Cloudera Manager 6.3.1安装包

    • CDH相关

    注意下载相应系统的安装包

         CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcelCDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha1manifest.json

    • jdk（cm6.3.1的压缩包里包含oracle-j2sdk1.8-1.8.0+update181-1.x86_64.rpm，也可下载 jdk-8u144-linux-x64.tar.gz)

    • MYSQL安装包：mysql-5.7.20-1.el7.x86_64.rpm-bundle.tar

    • MySQL驱动：mysql-connector-java-5.1.44-bin.jar

二、环境配置

注意所有操作都是在root权限下操作

  1. 基本配置（所有节点）

    修改 /etc/hostname 为自己想要的名字

    然后编辑 /etc/hosts，如下
    hosts配置

  2. Java环境（所有节点）

    下载jdk-8u144-linux-x64.tar.gz
    解压到/usr/java(可根据个人习惯创建目录）

     tar xzvf jdk-8u144-linux-x64.tar.gz

    配置环境变量

     vim /etc/profile #在文件末尾添加下面三行export JAVA_HOME=/usr/java/jdk1.8.0_144export PATH=$JAVA_HOME/bin:$PATHexport CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar#使生效source /etc/profile

  3. SSH无密码登录(集群内节点能够互相无密码访问)

    思路：将需要免密登录机器的公钥添加到authorized_keys即可
    分别在三台机器上执行以下命令

     # 进入根目录cd# 如果没有.ssh文件夹则创建一个mkdir .sshssh-keygen -t rsacat id_rsa.pub >> authorized_keyschmod 600 authorized_keys

    然后在每台机器上的authorized_keys中添加另外两台机器中的公钥id_rsa.pub

  4. 安装MySQL（主节点安装即可）

    安装步骤：
    （1）此处需要注意的是centos 7 默认安装的是mariadb，如果不卸载直接安装的话会报错，报错信息mariadb-libs is obsoleted by mysql-community-libs-5.7.20-1.el7.x86_64

     rpm -qa | grep mariadb #查看安装信息rpm -e mariadb-libs* --nodeps #根据查找到的软件包信息卸载

    （2）安装MySQL（前四个必须按以下顺序安装，因为有依赖）

     rpm -ivh mysql-community-common-5.7.20-1.el7.x86_64.rpmrpm -ivh mysql-community-libs-5.7.20-1.el7.x86_64.rpmrpm -ivh mysql-community-client-5.7.20-1.el7.x86_64.rpmrpm -ivh mysql-community-server-5.7.20-1.el7.x86_64.rpmrpm -ivh mysql-community-libs-compat-5.7.20-1.el7.x86_64.rpm

    （3）基本设置

     # 启动服务systemctl start mysqld.service # 在日志中会生成初始密码vim /var/log/mysqld.log  # 登录mysql -uroot -p   # 设置密码set password = password('test01.') #设置密码#授权用户root使用密码passwd从任意主机连接到mysql服务器GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'yourpasswd' WITH GRANT OPTION;flush privileges;

设置时区，/etc/my.cnf

    # my.cnf设置时区default-time_zone = '+8:00'（4）建数据库（如果需要安装下边的几个组件的话，需要先把数据库创建好）create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

  1. 关闭防火墙（所有节点）
    centos 7 默认使用的是firewall，不是iptables

     systemctl stop firewalld.servicesystemctl mask firewalld.service

  2. 关闭SELinux（所有节点）

     vim /etc/selinux/config设置SELINUX=disabled

  3. 配置NTP服务（所有节点）

     # 安装yum install ntp# 设置开机启动chkconfig ntpd on# 服务启动systemctl start ntpd# 手动同步时钟的方法ntpdate -u 0.cn.pool.ntp.org

  4. 安装mysql驱动

     cp mysql-connector-java-5.1.45.jar /usr/share/java/mysql-connector-java.jar

    一定要这个名字（mysql-connector-java.jar），否则会报错Unable to find JDBC driver for database type: MySQL
    报错信息

    解决方案

     mv mysql-connector-java-5.1.45.jar mysql-connector-java.jar

三、安装Cloudera Manger

1. 准备

将下载好的cloudera-manager-centos7-cm5.13.0_x86_64.tar.gz解压

tar xzvf cm6.3.1-redhat7.tar.gz

2. 安装

CDH6不再是免安装的包，而是rpm格式的安装文件

1）Master节点安装server与agent

yum -y install cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm
yum -y install cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm
yum -y install cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpm

2）将agent安装包拷贝到slave节点

scp cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm root@elink-2:/home
scp cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm root@elink-3:/home
scp cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm root@elink-2:/home
scp cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm root@elink-3:/home

3）slave节点安装agent

yum -y install cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm
yum -y install cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm

3. 为Cloudera Manager建立数据库

/opt/cloudera/cm/schema/scm_prepare_database.sh mysql -hlocalhost -uroot -p scm scm

如果上面的命令不好用，则可以使用下边的命令，但是需要先创建scm用户与scm库，并允许localhost访问。否则会报错
报错信息

数据库操作

create database scm DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
GRANT ALL PRIVILEGES ON *.* TO 'scm'@'localhost' IDENTIFIED BY 'scm2019' WITH GRANT OPTION;
flush privileges;

建表

/opt/cloudera/cm/schema/scm_prepare_database.sh mysql scm scm

安装成功图示
scm安装成功

4. 配置Agent

在所有节点上执行修改agent的配置，vim /etc/cloudera-scm-agent/config.ini

server_host=elink-1

5. 准备parcels，将CDH相关文件拷贝到主节点/opt/cloudera/parcel-repo/

# 相关文件    
CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel
CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha1
manifest.json

需要将CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha1改成CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha，否则安装时会重新下载，很重要！！

mv CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha1 CDH-6.3.1-1.cdh6.3.1.p0.1470567-el7.parcel.sha

6. 启动

#主节点
systemctl start cloudera-scm-server#主节点及其他节点
systemctl start cloudera-scm-agent

启动需要点时间，可以查看数据库scm中的hosts表，如果里面出现节点信息表示server启动完成

7. 登录 http://192.168.1.111:7180/cmf/login

登录界面,默认登录用户名和密码都是admin
登录界面

安装集群

1. 选择安装版本
选择安装版本

2. 修改集群名称
修改集群名称

3. 为CDH群集安装指定主机

此处是在当前管理的主机里选择机器，不要在新主机里查找，另外这个地方显示的主机信息一定要对，我开始的时候因为主机名配置出问题，导致无法识别主机名称和IP，虽然agent的uuid是分配到了四台机器上，但是后边的安装无法进行。
指定主机

4. 选择CDH版本安装
选择CDH版本

安装中

5. 检查环境
分别点击 Inspect Network Performance 与 Inspect Hosts
image.png

发现异常，点击 显示检查器结果
检查到异常

image.png

解决方案

第一个警告直接在所有节点上执行echo 10 > /proc/sys/vm/swappiness
第二个警告按照上面的说明，在所有节点上执行这两条命令
echo never > /sys/kernel/mm/transparent_hugepage/defrag
echo never > /sys/kernel/mm/transparent_hugepage/enabled
然后将命令写到 /etc/rc.local，保证每次重启时能执行
结果展示

配置完成后。重新运行监测程序
image.png

6. 群集设置–选择安装服务–按需选择
image.png

7. 群集设置–自定义角色
默认即可，如有特殊需求可自定义配置（比如DataNode建议最少三个机器，但是默认master不含DataNode角色，可以更改）
image.png

8. 开始执行安装命令

image.png

image.png

9. 安装完成
image.png

image.png

四、踩过的坑

  1. 缺少依赖MySQL依赖

     2:postfix-2.10.1-7.el7.x86_64 有缺少的需求 libmysqlclient.so.18()(64bit)2:postfix-2.10.1-7.el7.x86_64 有缺少的需求 libmysqlclient.so.18(libmysqlclient_18)(64bit)

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nm11y38h-1623221298695)(media/15694841278622/15711893852083.jpg)]

    缺少依赖包，安装即可

     rpm -ivh mysql-community-libs-compat-5.7.20-1.el7.x86_64.rpm

这篇关于Centos 7 离线安装Cloudera Manager6 和CDH6.3.1的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/948306。

相关文章

Python UV安装、升级、卸载详细步骤记录

Python UV安装、升级、卸载详细步骤记录

《PythonUV安装、升级、卸载详细步骤记录》：本文主要介绍PythonUV安装、升级、卸载的详细步骤,uv是Astral推出的下一代Python包与项目管理器,主打单一可执行文件、极致性能... 目录安装检查升级设置自动补全卸载UV 命令总结 官方文档详见：https://docs.astral.sh/
阅读更多...
Nexus安装和启动的实现教程

Nexus安装和启动的实现教程

《Nexus安装和启动的实现教程》：本文主要介绍Nexus安装和启动的实现教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、Nexus下载二、Nexus安装和启动三、关闭Nexus总结一、Nexus下载官方下载链接：DownloadWindows系统根
阅读更多...
Java SWT库详解与安装指南(最新推荐)

Java SWT库详解与安装指南(最新推荐)

《JavaSWT库详解与安装指南(最新推荐)》：本文主要介绍JavaSWT库详解与安装指南,在本章中,我们介绍了如何下载、安装SWTJAR包,并详述了在Eclipse以及命令行环境中配置Java... 目录1. Java SWT类库概述2. SWT与AWT和Swing的区别2.1 历史背景与设计理念2.1.
阅读更多...
安装centos8设置基础软件仓库时出错的解决方案

安装centos8设置基础软件仓库时出错的解决方案

《安装centos8设置基础软件仓库时出错的解决方案》：本文主要介绍安装centos8设置基础软件仓库时出错的解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录安装Centos8设置基础软件仓库时出错版本 8版本 8.2.200android4版本 javas
阅读更多...
CentOS 7 YUM源配置错误的解决方法

CentOS 7 YUM源配置错误的解决方法

《CentOS7YUM源配置错误的解决方法》在使用虚拟机安装CentOS7系统时,我们可能会遇到YUM源配置错误的问题,导致无法正常下载软件包,为了解决这个问题,我们可以替换YUM源... 目录一、备份原有的 YUM 源配置文件二、选择并配置新的 YUM 源三、清理旧的缓存并重建新的缓存四、验证 YUM 源
阅读更多...
Pytorch介绍与安装过程

Pytorch介绍与安装过程

《Pytorch介绍与安装过程》PyTorch因其直观的设计、卓越的灵活性以及强大的动态计算图功能,迅速在学术界和工业界获得了广泛认可,成为当前深度学习研究和开发的主流工具之一,本文给大家介绍Pyto... 目录1、Pytorch介绍1.1、核心理念1.2、核心组件与功能1.3、适用场景与优势总结1.4、优
阅读更多...
conda安装GPU版pytorch默认却是cpu版本

conda安装GPU版pytorch默认却是cpu版本

《conda安装GPU版pytorch默认却是cpu版本》本文主要介绍了遇到Conda安装PyTorchGPU版本却默认安装CPU的问题,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的... 目录一、问题描述二、网上解决方案罗列【此节为反面方案罗列！！！】三、发现的根本原因[独家]3.1 p
阅读更多...
windows系统上如何进行maven安装和配置方式

windows系统上如何进行maven安装和配置方式

《windows系统上如何进行maven安装和配置方式》：本文主要介绍windows系统上如何进行maven安装和配置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不... 目录1. Maven 简介2. maven的下载与安装2.1 下载 Maven2.2 Maven安装2.
阅读更多...
Redis指南及6.2.x版本安装过程

Redis指南及6.2.x版本安装过程

《Redis指南及6.2.x版本安装过程》Redis是完全开源免费的,遵守BSD协议,是一个高性能(NOSQL)的key-value数据库,Redis是一个开源的使用ANSIC语言编写、支持网络、... 目录概述Redis特点Redis应用场景缓存缓存分布式会话分布式锁社交网络最新列表Redis各版本介绍旧
阅读更多...
Linux下安装Anaconda3全过程

Linux下安装Anaconda3全过程

《Linux下安装Anaconda3全过程》：本文主要介绍Linux下安装Anaconda3全过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录简介环境下载安装一、找到下载好的文件名为Anaconda3-2018.12-linux-x86_64的安装包二、或者通
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2