“小白也能玩转!ES集群搭建零报错全攻略,轻松上手指南!”

2024-03-20 03:20

本文主要是介绍“小白也能玩转!ES集群搭建零报错全攻略,轻松上手指南!”,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!


🌐 全新的“Open开袁”官方网站现已上线!https://open-yuan.com,汇聚编程资源、深度技术文章及开源项目地址,助您探索技术新境界。

📱 关注微信公众号“全栈小袁”,随时掌握最新项目动态和技术分享,开启技术新篇章!

想要与更多志同道合的伙伴交流心得、分享经验吗?快来加入我们的技术交流社区吧!


环境

JDK版本对应关系:地址

系统环境

软件版本
JDK8
Ubuntu20
ES7.12.0

ES节点环境

主机IP对外服务的http端口
(默认9200)
节点间交互的tcp端口
(默认9300)
ES1192.168.31.10092029301
ES2192.168.31.10192029302
ES3192.168.31.10292029303

三台Linux服务器已经准备完毕
image.png

安装

下载

📢 Open开原官网地址有 ES 资源提供下载,访问 Open官网地址

切换至home目录,执行下载安装包命令(all)

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.12.0-linux-x86_64.tar.gz

解压

tar -zxvf elasticsearch-7.12.0-linux-x86_64.tar.gz

重命名

mv elasticsearch-7.12.0 es

创建日志目录

mkdir -p /home/es/logs

用户组

创建新用户,不允许root用户操作
useradd es
设置密码
passwd es
分配用户和用户组
chown -R es:es es/

增加内存大小限制

文件末尾追加配置,然后刷新

echo "vm.max_map_count=262144" >> /etc/sysctl.conf && sysctl -p

末尾加上这段内容,es为新添加的用户组

echo "es hard nofile 65536" >> /etc/security/limits.conf
echo "es soft nofile 65536" >> /etc/security/limits.conf

ES配置

配置文件

vi config/elasticsearch.yml
es-1节点
#集群名称
cluster.name: openyuan-cluster-es
#节点名称
node.name: es-1
#数据存储路径
path.data: /home/es/data
#日志存储路径
path.logs: /home/es/logs
#绑定的ip地址(“0.0.0.0”说明都可以访问)
network.host: 192.168.31.100
#对外服务的http端口,默认9200
http.port: 9202
#节点间交互的tcp端口,默认是9300
transport.tcp.port: 9301
#节点列表
discovery.zen.ping.unicast.hosts: ["192.168.31.100:9301", "192.168.31.101:9302","192.168.31.102:9303"]
# 初始主节点列表,用于选举主节点
cluster.initial_master_nodes: ["es-1", "es-2", "es-3"]
#至少两个节点在线
discovery.zen.minimum_master_nodes: 2
# 候选主节点,是否可以推举为主节点
node.master: true
#接入es-head插件
http.cors.enabled: true
http.cors.allow-origin: "*"
es-2节点
#集群名称
cluster.name: openyuan-cluster-es
#节点名称
node.name: es-2
#数据存储路径
path.data: /home/es/data
#日志存储路径
path.logs: /home/es/logs
#绑定的ip地址(“0.0.0.0”说明都可以访问)
network.host: 192.168.31.101
#对外服务的http端口,默认9200
http.port: 9202
#节点间交互的tcp端口,默认是9300
transport.tcp.port: 9302
#节点列表
discovery.zen.ping.unicast.hosts: ["192.168.31.100:9301", "192.168.31.101:9302","192.168.31.102:9303"]
# 初始主节点列表,用于选举主节点
cluster.initial_master_nodes: ["es-1", "es-2", "es-3"]
#至少两个节点在线
discovery.zen.minimum_master_nodes: 2
# 候选主节点,是否可以推举为主节点
node.master: true
#接入es-head插件
http.cors.enabled: true
http.cors.allow-origin: "*"
es-3节点
#集群名称
cluster.name: openyuan-cluster-es
#节点名称
node.name: es-3
#数据存储路径
path.data: /home/es/data
#日志存储路径
path.logs: /home/es/logs
#绑定的ip地址(“0.0.0.0”说明都可以访问)
network.host: 192.168.31.102
#对外服务的http端口,默认9200
http.port: 9202
#节点间交互的tcp端口,默认是9300
transport.tcp.port: 9303
#节点列表
discovery.zen.ping.unicast.hosts: ["192.168.31.100:9301", "192.168.31.101:9302","192.168.31.102:9303"]
# 初始主节点列表,用于选举主节点
cluster.initial_master_nodes: ["es-1", "es-2", "es-3"]
#至少两个节点在线
discovery.zen.minimum_master_nodes: 2
# 候选主节点,是否可以推举为主节点
node.master: true
#接入es-head插件
http.cors.enabled: true
http.cors.allow-origin: "*"

配置系统命令

通过systemctl操作ES的启动、停止、重启等,无需切换es用户

建立es服务文件

vi /lib/systemd/system/es.service

ps:指定es用户(根据自己情况修改),配置启动命令(根据自己情况修改)

配置文件
[Unit]
Description=elasticsearch
Documentation=https://www.elastic.co
After=network.target[Service]
Type=simple
PrivateTmp=true
# 指定ES用户
User=es
Group=es
LimitNOFILE=100000
LimitNPROC=100000
Restart=yes
# 启动命令
ExecStart=/home/es/bin/elasticsearch
ExecRestart=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID[Install]
WantedBy=multi-user.target
加载服务命令

重新加载systemctl服务,使其生效

sudo systemctl daemon-reload

测试服务命令

启动ES
sudo systemctl start es
结束ES
sudo systemctl stop es

或普通操作

ps aux | grep elasticsearch | grep -v grep | awk '{print $2}' | xargs kill
查看ES状态
sudo systemctl status es

image.png

ES命令

查看节点状况

以es-1为例

curl http://192.168.31.100:9202

image.png

查看集群状况

  • 表示为主节点
curl http://192.168.31.100:9202/_cat/nodes?v

image.png

集群一键脚本

📢 注意:我这里以es-1作为主节点,在es-1生成秘钥拷贝至es-2和es-3,在es-1中执行一键脚本命令。
可自行配置

免密登录

清空ssh秘钥信息(全部节点)
rm -r ~/.ssh
生成秘钥(全部节点)

一路回车

ssh-keygen -t rsa
重命名 && 拷贝秘钥(es-1)
mv /root/.ssh/id_rsa.pub /root/.ssh/id_rsa_es1.pub

拷贝到es-2es-3

scp /root/.ssh/id_rsa_es1.pub root@192.168.31.101:/root/.ssh/
scp /root/.ssh/id_rsa_es1.pub root@192.168.31.102:/root/.ssh/
写入秘钥(es-2和es-3)
cat /root/.ssh/id_rsa_es1.pub >> /root/.ssh/authorized_keys
ssh免密成功
ssh root@192.168.31.252

配置shell脚本

一键启动脚本
vi /home/es-start.sh
#!/bin/bashsystemctl start es
echo "节点: 192.168.31.100 ==> 启动ES...[ done ]"esServers='192.168.31.101 192.168.31.102'# 启动所有的ES
for es in $esServers
dossh root@$es <<EOFsystemctl start es
EOFecho "节点: $es ==> 启动ES...[ done ]"sleep 1
done
一键停止脚本
vi /home/es-stop.sh
#!/bin/bashsystemctl stop es
echo "节点: 192.168.31.100 ==> 停止ES...[ done ]"esServers='192.168.31.101 192.168.31.102'# 启动所有的ES
for es in $esServers
dossh root@$es <<EOFsystemctl stop es
EOFecho "节点: $es ==> 停止ES...[ done ]"sleep 1
done
一键重启脚本
vi /home/es-restart.sh
#!/bin/bashsystemctl restart es
echo "节点: 192.168.31.100 ==> 重启ES...[ done ]"esServers='192.168.31.101 192.168.31.102'# 启动所有的ES
for es in $esServers
dossh root@$es <<EOFsystemctl restart es
EOFecho "节点: $es ==> 重启ES...[ done ]"sleep 1
done
脚本权限授权
chmod u+x /home/es-start.sh /home/es-stop.sh /home/es-restart.sh

执行一键脚本

sh /home/es-startup.sh
sh /home/es-stop.sh
sh /home/es-restart.sh

image.png

配置集群安全验证

修改ES配置

📢 注意:是每个节点都要

vi config/elasticsearch.yml

末尾加上这段配置

# 开启安全验证
xpack.security.enabled: true
xpack.license.self_generated.type: basic
xpack.security.transport.ssl.enabled: true
# 证书认证
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: elastic-certificates.p12

生成证书

📌 在es-1节点操作,这个没要求

输入完命令,直接回车就行,在config目录下就有一个新的 elastic-certificates.p12 文件
📢 注意:需要将证书拷贝到其他节点的es目录的config目录下

/home/es/bin/elasticsearch-certutil \
cert -out \
/home/es/config/elastic-certificates.p12 -pass

提示输入密码,直接回车即可
image.png

拷贝证书到其他节点

scp /home/es/config/elastic-certificates.p12 root@192.168.31.101:/home/es/config/
scp /home/es/config/elastic-certificates.p12 root@192.168.31.102:/home/es/config/

image.png

证书授权(每个节点)

chown -R es:es /home/es/config/elastic-certificates.p12 && \
chmod 644 /home/es/config/elastic-certificates.p12

重启ES服务(每个节点)

配置了一键脚本的,可以直接一键stop然后一键start

sudo systemctl restart es

设置密码

📢 注意:这里是上面生成证书的那个节点,我这里是es-1

直接选择自动生成,输入y,记得自己保存好,一共七个用户

# 手动设置密码
/home/es/bin/elasticsearch-setup-passwords interactive# 自动设置密码
/home/es/bin/elasticsearch-setup-passwords auto

image.png

Changed password for user apm_system
PASSWORD apm_system = VPnTuWixz5WQJo6zfhk7Changed password for user kibana_system
PASSWORD kibana_system = jmgNNWkbG8mTo6hTNPCWChanged password for user kibana
PASSWORD kibana = jmgNNWkbG8mTo6hTNPCWChanged password for user logstash_system
PASSWORD logstash_system = rX9FTcgBAGB94pM0RWcJChanged password for user beats_system
PASSWORD beats_system = unQDJ4h4x4WwOl0Mta4XChanged password for user remote_monitoring_user
PASSWORD remote_monitoring_user = A0hgS6Xve1nCcGIolOlfChanged password for user elastic
PASSWORD elastic = VbAiNAUopcBojx79yrQ7

修改密码

curl -H "Content-Type:application/json" -XPOST \
-u elastic 'http://127.0.0.1:9202/_xpack/security/user/elastic/_password' \
-d '{ "password" : "123456" }'

验证

查看节点状态
curl http://192.168.31.100:9202

未授权401错误
image.png
新命令

curl http://192.168.31.100:9202 -u elastic:VbAiNAUopcBojx79yrQ7

image.png

查看集群状态
curl http://elastic:VbAiNAUopcBojx79yrQ7@192.168.31.100:9202/_cat/nodes?v

image.png

浏览器访问

image.png

其他说明

启动失败,无法再次启动

删除data数据目录和日志目录

rm -rf /home/es/data/* && rm -rf /home/es/logs/*
IP或ES配置变更后,秘钥问题

重新生成一次密码即可,无需其他操作

# 自动设置密码
/home/es/bin/elasticsearch-setup-passwords auto

后续拓展

Kibana

后续出…

ELK/EFK

后续出…


🌐 全新的“Open开袁”官方网站现已上线!https://open-yuan.com,汇聚编程资源、深度技术文章及开源项目地址,助您探索技术新境界。

📱 关注微信公众号“全栈小袁”,随时掌握最新项目动态和技术分享,开启技术新篇章!

想要与更多志同道合的伙伴交流心得、分享经验吗?快来加入我们的技术交流社区吧!


这篇关于“小白也能玩转!ES集群搭建零报错全攻略,轻松上手指南!”的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/828131

相关文章

vite搭建vue3项目的搭建步骤

《vite搭建vue3项目的搭建步骤》本文主要介绍了vite搭建vue3项目的搭建步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录1.确保Nodejs环境2.使用vite-cli工具3.进入项目安装依赖1.确保Nodejs环境

Nginx搭建前端本地预览环境的完整步骤教学

《Nginx搭建前端本地预览环境的完整步骤教学》这篇文章主要为大家详细介绍了Nginx搭建前端本地预览环境的完整步骤教学,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录项目目录结构核心配置文件:nginx.conf脚本化操作:nginx.shnpm 脚本集成总结:对前端的意义很多

idea+spring boot创建项目的搭建全过程

《idea+springboot创建项目的搭建全过程》SpringBoot是Spring社区发布的一个开源项目,旨在帮助开发者快速并且更简单的构建项目,:本文主要介绍idea+springb... 目录一.idea四种搭建方式1.Javaidea命名规范2JavaWebTomcat的安装一.明确tomcat

idea突然报错Malformed \uxxxx encoding问题及解决

《idea突然报错Malformeduxxxxencoding问题及解决》Maven项目在切换Git分支时报错,提示project元素为描述符根元素,解决方法:删除Maven仓库中的resolv... 目www.chinasem.cn录问题解决方式总结问题idea 上的 maven China编程项目突然报错,是

Java轻松实现PDF转换为PDF/A的示例代码

《Java轻松实现PDF转换为PDF/A的示例代码》本文将深入探讨Java环境下,如何利用专业工具将PDF转换为PDF/A格式,为数字文档的永续保存提供可靠方案,文中的示例代码讲解详细,感兴趣的小伙伴... 目录为什么需要将PDF转换为PDF/A使用Spire.PDF for Java进行转换前的准备通过

k8s搭建nfs共享存储实践

《k8s搭建nfs共享存储实践》本文介绍NFS服务端搭建与客户端配置,涵盖安装工具、目录设置及服务启动,随后讲解K8S中NFS动态存储部署,包括创建命名空间、ServiceAccount、RBAC权限... 目录1. NFS搭建1.1 部署NFS服务端1.1.1 下载nfs-utils和rpcbind1.1

linux查找java项目日志查找报错信息方式

《linux查找java项目日志查找报错信息方式》日志查找定位步骤:进入项目,用tail-f实时跟踪日志,tail-n1000查看末尾1000行,grep搜索关键词或时间,vim内精准查找并高亮定位,... 目录日志查找定位在当前文件里找到报错消息总结日志查找定位1.cd 进入项目2.正常日志 和错误日

Java StringBuilder 实现原理全攻略

《JavaStringBuilder实现原理全攻略》StringBuilder是Java提供的可变字符序列类,位于java.lang包中,专门用于高效处理字符串的拼接和修改操作,本文给大家介绍Ja... 目录一、StringBuilder 基本概述核心特性二、StringBuilder 核心实现2.1 内部

PHP轻松处理千万行数据的方法详解

《PHP轻松处理千万行数据的方法详解》说到处理大数据集,PHP通常不是第一个想到的语言,但如果你曾经需要处理数百万行数据而不让服务器崩溃或内存耗尽,你就会知道PHP用对了工具有多强大,下面小编就... 目录问题的本质php 中的数据流处理:为什么必不可少生成器:内存高效的迭代方式流量控制:避免系统过载一次性

JavaScript中的高级调试方法全攻略指南

《JavaScript中的高级调试方法全攻略指南》什么是高级JavaScript调试技巧,它比console.log有何优势,如何使用断点调试定位问题,通过本文,我们将深入解答这些问题,带您从理论到实... 目录观点与案例结合观点1观点2观点3观点4观点5高级调试技巧详解实战案例断点调试:定位变量错误性能分