dockerfile部署ELK

2024-08-23 10:04
文章标签 部署 elk dockerfile

本文主要是介绍dockerfile部署ELK,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

架构

一台docker虚拟机

docker部署elasticsearch-6.7.2  ES1 :172.111.0.11

docker部署elasticsearch-6.7.2  ES2 :172.111.0.12

docker部署logstash-6.7.2 :172.111.0.13  可以用现成的镜像

docker部署kibana-6.7.2-x86_64 :172.111.0.14  可以用现成的镜像


实验步骤

cd /opt

mkdir es1 es2 logstash kibana

Elasticsearch镜像

ES1

cd /opt
上传elasticsearch的rpm包安装包
cd es1
cp /etc/yum.repos.d/Centos-7.repo  .
rpm -ivh /opt/elasticsearch-6.7.2.rpm

cp /etc/elasticsearch/elasticsearch.yml .
对elasticsearch.yml文件进行修改
vim elasticsearch.yml

# --17行-- 取消注释
cluster.name: elk-cluster
# --23行-- 取消注释
node.name: node-1
# --55行-- 取消注释,修改
network.host: 0.0.0.0
# --59行-- 取消注释
http.port: 9200
#--23行-- 回到23行开始添加内容
node.master: true
node.data: true
# --61行-- 添加
transport.tcp.port: 9300
# --71行-- 取消注释,修改,这里可以直接用容器名通信,不必非得写IP地址
discovery.zen.ping.unicast.hosts: ["172.111.0.11:9300","172.111.0.12:9300"]
 

编写Dockerfile

vim Dockerfile

FROM centos:7
MAINTAINER this is ES1 <ELK>
COPY Centos-7.repo elasticsearch-6.7.2.rpm /opt/
WORKDIR /etc/yum.repos.d/
RUN rm -rf * && \cp /opt/Centos-7.repo . && \yum clean all && yum makecache && \yum -y install java ntpdate net-tools && \useradd -M -s /bin/bash elasticsearch && \rpm -ivh /opt/elasticsearch-6.7.2.rpm && \chown -R elasticsearch:elasticsearch /usr/share/elasticsearch
COPY elasticsearch.yml /etc/elasticsearch/elasticsearch.yml
RUN chown -R elasticsearch:elasticsearch /etc/elasticsearch
USER elasticsearch
EXPOSE 9200
CMD ["/usr/share/elasticsearch/bin/elasticsearch"]

docker build -t es:master .
# 创建自定义网络
docker run -itd --name es1 --net=mynetwork1 --ip 172.111.0.11 -p 9200:9200 es:master
docker exec -it es1 bash
docker ps -a

ES2

cp /opt/es1/* /opt/es2
对elasticsearch.yml文件进行修改
vim elasticsearch.yml

# --23行-- 修改
node.name: node2
node.master: false
 

再修改Dockerfile

MAINTAINER this is ES2 <ELK>

完整版

vim DockerfileFROM centos:7
MAINTAINER this is ES2 <ELK>
COPY Centos-7.repo elasticsearch-6.7.2.rpm /opt/
WORKDIR /etc/yum.repos.d/
RUN rm -rf * && \cp /opt/Centos-7.repo . && \yum clean all && yum makecache && \yum -y install java ntpdate net-tools && \useradd -M -s /bin/bash elasticsearch && \rpm -ivh /opt/elasticsearch-6.7.2.rpm && \chown -R elasticsearch:elasticsearch /usr/share/elasticsearch
COPY elasticsearch.yml /etc/elasticsearch/elasticsearch.yml
RUN chown -R elasticsearch:elasticsearch /etc/elasticsearch
USER elasticsearch
EXPOSE 9200
CMD ["/usr/share/elasticsearch/bin/elasticsearch"]

docker build -t es:slave .
docker run -itd --name es2 --net=mynetwork1 --ip 172.111.0.12 -p 9201:9201 es:slave
docker exec -it es2 bash

验证

浏览器访问宿主机的地址

http://192.168.233.11:9200/ ,http://192.168.233.11:9201/

Logstash镜像

拉取logstash和kibana的v6.7.2版本镜像

docker pull logstash:6.7.2
docker pull kibana:6.7.2

logstash镜像编排

cd /opt/logstash
vim logstash.yml
编写yml文件
http.host: "0.0.0.0"
xpack.monitoring.elasticsearch.url: [ "http://es1:9200","http://es2:9200" ]

vim logstash.conf
编写 conf 文件,定义输入输出,指定输入之一为宿主机Apache的日志文件
input {
  tcp {
    mode => "server"
    host => "0.0.0.0"
    port => 5044
    codec => "json"
  }
  file {
    path => "/opt/logs/*_log"
    start_position => "beginning"
  }
}
output {
  elasticsearch {
    hosts => [ "http://es1:9200","http://es2:9202" ]
    index => "elk-%{+YYYY.MM.dd}"
  }
}

vim Dockerfile

FROM logstash:6.7.2
USER root
COPY logstash.yml ./config/logstash.yml
COPY logstash.conf ./pipeline/logstash.conf

docker build -t logstash:elk . 
docker run -itd --name logstash -v /etc/httpd/logs/:/opt/logs/ --net mynetwork1 --ip 172.111.0.13 -p 5044:5044 -p 9600:9600 logstash:elk
docker exec -it logstash bash
cd /opt/logs/

注:为了方便,把logstash镜像的权限设置为root,否则宿主机共享过去的Apache日志文件logstash都无权限访问

访问几次宿主机的Apache服务,并查看Apache的日志文件是否共享到容器内

kibana镜像

cd /opt/kibana
vim kibana.yml
server.name: kibana
server.host: "0"
elasticsearch.hosts: [ "http://es1:9200","http://es2:9201" ]

vim Dockerfile

FROM kibana:6.7.2
COPY kibana.yml ./config/kibana.yml
USER root
RUN chown kibana.kibana ./config/kibana.yml
USER kibana

docker build -t kibana:elk . 
docker run -itd --name kibana --net mynetwork1 --ip 172.111.0.14 -p 5601:5601 kibana:elk
docker exec -it kibana bash

访问kibana的web页面,查看日志数据并建立对应索引

这篇关于dockerfile部署ELK的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1099070

相关文章

Nginx分布式部署流程分析

《Nginx分布式部署流程分析》文章介绍Nginx在分布式部署中的反向代理和负载均衡作用,用于分发请求、减轻服务器压力及解决session共享问题,涵盖配置方法、策略及Java项目应用,并提及分布式事... 目录分布式部署NginxJava中的代理代理分为正向代理和反向代理正向代理反向代理Nginx应用场景

linux部署NFS和autofs自动挂载实现过程

《linux部署NFS和autofs自动挂载实现过程》文章介绍了NFS(网络文件系统)和Autofs的原理与配置,NFS通过RPC实现跨系统文件共享,需配置/etc/exports和nfs.conf,... 目录(一)NFS1. 什么是NFS2.NFS守护进程3.RPC服务4. 原理5. 部署5.1安装NF

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践

Nginx部署HTTP/3的实现步骤

《Nginx部署HTTP/3的实现步骤》本文介绍了在Nginx中部署HTTP/3的详细步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录前提条件第一步:安装必要的依赖库第二步:获取并构建 BoringSSL第三步:获取 Nginx

redis-sentinel基础概念及部署流程

《redis-sentinel基础概念及部署流程》RedisSentinel是Redis的高可用解决方案,通过监控主从节点、自动故障转移、通知机制及配置提供,实现集群故障恢复与服务持续可用,核心组件包... 目录一. 引言二. 核心功能三. 核心组件四. 故障转移流程五. 服务部署六. sentinel部署

Linux部署中的文件大小写问题的解决方案

《Linux部署中的文件大小写问题的解决方案》在本地开发环境(Windows/macOS)一切正常,但部署到Linux服务器后出现模块加载错误,核心原因是Linux文件系统严格区分大小写,所以本文给大... 目录问题背景解决方案配置要求问题背景在本地开发环境(Windows/MACOS)一切正常,但部署到

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

MySQL 主从复制部署及验证(示例详解)

《MySQL主从复制部署及验证(示例详解)》本文介绍MySQL主从复制部署步骤及学校管理数据库创建脚本,包含表结构设计、示例数据插入和查询语句,用于验证主从同步功能,感兴趣的朋友一起看看吧... 目录mysql 主从复制部署指南部署步骤1.环境准备2. 主服务器配置3. 创建复制用户4. 获取主服务器状态5

golang程序打包成脚本部署到Linux系统方式

《golang程序打包成脚本部署到Linux系统方式》Golang程序通过本地编译(设置GOOS为linux生成无后缀二进制文件),上传至Linux服务器后赋权执行,使用nohup命令实现后台运行,完... 目录本地编译golang程序上传Golang二进制文件到linux服务器总结本地编译Golang程序

如何在Ubuntu 24.04上部署Zabbix 7.0对服务器进行监控

《如何在Ubuntu24.04上部署Zabbix7.0对服务器进行监控》在Ubuntu24.04上部署Zabbix7.0监控阿里云ECS服务器,需配置MariaDB数据库、开放10050/1005... 目录软硬件信息部署步骤步骤 1:安装并配置mariadb步骤 2:安装Zabbix 7.0 Server