lsyncd实时同步工具

2023-12-13 23:48
文章标签 工具 实时 同步 lsyncd

本文主要是介绍lsyncd实时同步工具,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

简介

Lysncd 实际上是lua语言封装了 inotify 和 rsync 工具,采用了 Linux 内核(2.6.13 及以后)里的 inotify 触发机制,然后通过rsync去差异同步,达到实时的效果。
完美解决了 inotify + rsync海量文件同步带来的文件频繁发送文件列表的问题 —— 通过时间延迟或累计触发事件次数实现。

环境

由于成本考虑,没有用ELK来做日志手机。需要采用lsyncd将每台服务器的/data/log/tomcat目录同步到固定的机器,使用Nginx来做日志展示。

服务器列表

系统ipssh端口目录注释
CentOS 6.9192.168.31.727/data/log/tomcat安装lsync
CentOS 6.9192.168.31.21627/data/log/tomcat/192.168.31.7安装rsync

 

 

 

 

备注:将192.168.31.7/data/log/tomcat目录同步到192.168.31.216/data/log/tomcat/192.168.31.7目录

拓扑图

说明:
将每台web服务器的日志/data/log/tomcat,使用rsync工具,通过ssh协议,发送给日志服务器。

ssh免密

注意:设置单向的ssh免密即可。也就是192.168.31.7能免密登录192.168.31.216

生成秘钥

2台服务器,都执行命令:

ssh-keygen -t rsa

 

copy秘钥

登录192.168.31.7,执行命令:

ssh-copy-id -i ~/.ssh/id_rsa.pub "-p 27 root@192.168.31.216"

 

安装lsyncd

有2种方法可以安装,主要讲解源码安装

yum安装

yum安装,前提是安装了epel更新源。使用命令:yum install -y lsyncd

源码安装

github下载,地址为:https://github.com/axkibe/lsyncd
本文采用的是源码安装方式,因为版本是比yum安装要新一点

安装依赖

编译环境
yum install -y gcc psmisc gcc-c++ cmake

 

安装lua
yum install -y lua lua-devel

 

安装其他组件

注意:rsync必须要安装

yum install -y rsync unzip

 

编译安装

mkdir -p /data/
unzip lsyncd-master.zip -d /usr/src/
cd /usr/src/lsyncd-master/
cmake -DCMAKE_INSTALL_PREFIX=/data/lsyncd
make && make install

 

 

创建同步目录

登录192.168.31.7,执行命令:

mkdir -p /data/log/tomcat
touch /data/log/tomcat/1.txt

 

 

登录192.168.31.216,执行命令:

mkdir -p /data/log/tomcat/192.168.31.7

 

安装rsync

注意:server端和client端都需要安装rsync
登录192.168.31.7192.168.31.216,执行命令:

yum install -y rsync

 

配置文件

cd /data/lsyncd
mkdir etc var
cd etc/
vi lsyncd.conf

 

 

内容如下:

settings {--pid文件logfile = "/data/lsyncd/var/lsyncd.log",--状态文件statusFile = "/data/lsyncd/var/lsyncd.status",--同步模式,意思就是有更新就同步inotifyMode = "CloseWrite or Modify",--最大8个进程maxProcesses = 8,
}
--需要同步服务器的IP地址池
servers = {
"192.168.31.216",
}
--使用for循环遍历IP池
for _, server in ipairs(servers) do 
sync {--本地目录间同步,使用rsyncdefault.rsync,--同步的源目录,使用绝对路径source = "/data/log/tomcat",--定义目的地址,注意:冒号后面是绝对路径target = server..":/data/log/tomcat/192.168.31.7",--累计事件,等待rsync同步延时时间。这里设置0秒,表示实时同步。delay = 0,rsync ={--rsync命令的绝对路径binary ="/usr/bin/rsync",archive =true,compress =true,verbose = true,--使用ssh协议连接到目标服务器,如果端口不是22,请修改一下。rsh = "/usr/bin/ssh -p 22 -o StrictHostKeyChecking=no"},
}
end
View Code

 

启动服务

/data/lsyncd/bin/lsyncd /data/lsyncd/etc/lsyncd.conf

 

查看日志

tail -f /data/lsyncd/var/lsyncd.log

 

输出:

sent 106 bytes received 31 bytes 274.00 bytes/sec
total size is 0 speedup is 0.00
Mon Oct 28 10:21:02 2019 Normal: Finished a list after exitcode: 0

 

 

查看进程

# ps -aux|grep lsyncWarning: bad syntax, perhaps a bogus '-'? See /usr/share/doc/procps-3.2.8/FAQ
root 1581 0.0 0.0 11376 1112 ? Ss 10:19 0:00 /data/lsyncd/bin/lsyncd /data/lsyncd/etc/lsyncd.conf
root 1602 0.0 0.0 103336 896 pts/0 S+ 10:23 0:00 grep lsync

 

 

查看同步目录

登录到192.168.31.216,查看目录是否同步过来了

# ls /data/log/tomcat/192.168.31.7/

1.txt

 

 

开机启动脚本

vi /etc/init.d/lsyncd

 

内容如下:

#!/bin/bash
#
# chkconfig: - 85 15
# description: Lightweight inotify based sync daemon
#
# processname:  lsyncd
# config:       /data/lsyncd/etc/lsyncd.conf
# config:       /etc/sysconfig/lsyncd
# pidfile:      /data/lsyncd/var/lsyncd.pid
# Source function library
. /etc/init.d/functions
# Source networking configuration.
. /etc/sysconfig/network
# Check that networking is up.
[ "$NETWORKING" = "no" ] && exit 0
LSYNCD_OPTIONS="-pidfile /data/lsyncd/var/lsyncd.pid /data/lsyncd/etc/lsyncd.conf"
if [ -e /etc/sysconfig/lsyncd ]; then. /etc/sysconfig/lsyncd
fi
RETVAL=0
prog="lsyncd"
thelock=/var/lock/subsys/lsyncd
start() {
[ -f /data/lsyncd/etc/lsyncd.conf ] || exit 6echo -n $"Starting $prog: "if [ $UID -ne 0 ]; thenRETVAL=1failureelsedaemon ${LSYNCD_USER:+--user ${LSYNCD_USER}} /data/lsyncd/bin/lsyncd $LSYNCD_OPTIONSRETVAL=$?[ $RETVAL -eq 0 ] && touch $thelockfi;echoreturn $RETVAL
}
stop() {echo -n $"Stopping $prog: "if [ $UID -ne 0 ]; thenRETVAL=1failureelsekillproc lsyncdRETVAL=$?[ $RETVAL -eq 0 ] && rm -f $thelockfi;echoreturn $RETVAL
}
reload(){echo -n $"Reloading $prog: "killproc lsyncd -HUPRETVAL=$?echoreturn $RETVAL
}
restart(){stopstart
}
condrestart(){[ -e $thelock ] && restartreturn 0
}
case "$1" instart)start;;stop)stop;;restart)restart;;reload)reload;;condrestart)condrestart;;status)status lsyncdRETVAL=$?;;*)echo $"Usage: $0 {start|stop|status|restart|condrestart|reload}"RETVAL=1
esac
exit $RETVAL
View Code

 

增加启动项

chkconfig --add lsyncd
chkconfig --level 2345 lsyncd on

 

 

如果遇到不同步的情况:

1.检查几台服务器是否存在文件/usr/bin/rsync
2.检查source和target文件目录是否存在
3.检查iptables和selinux是否关闭
4.检查几台服务器之间是否做了秘钥认证,能够无密码ssh登录

 

 

本文参考链接:
https://linux.cn/article-5849-1.html

 

这篇关于lsyncd实时同步工具的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/490392

相关文章

Python办公自动化实战之打造智能邮件发送工具

《Python办公自动化实战之打造智能邮件发送工具》在数字化办公场景中,邮件自动化是提升工作效率的关键技能,本文将演示如何使用Python的smtplib和email库构建一个支持图文混排,多附件,多... 目录前言一、基础配置:搭建邮件发送框架1.1 邮箱服务准备1.2 核心库导入1.3 基础发送函数二、

基于Python实现一个图片拆分工具

《基于Python实现一个图片拆分工具》这篇文章主要为大家详细介绍了如何基于Python实现一个图片拆分工具,可以根据需要的行数和列数进行拆分,感兴趣的小伙伴可以跟随小编一起学习一下... 简单介绍先自己选择输入的图片,默认是输出到项目文件夹中,可以自己选择其他的文件夹,选择需要拆分的行数和列数,可以通过

Python使用pip工具实现包自动更新的多种方法

《Python使用pip工具实现包自动更新的多种方法》本文深入探讨了使用Python的pip工具实现包自动更新的各种方法和技术,我们将从基础概念开始,逐步介绍手动更新方法、自动化脚本编写、结合CI/C... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

Python使用OpenCV实现获取视频时长的小工具

《Python使用OpenCV实现获取视频时长的小工具》在处理视频数据时,获取视频的时长是一项常见且基础的需求,本文将详细介绍如何使用Python和OpenCV获取视频时长,并对每一行代码进行深入解析... 目录一、代码实现二、代码解析1. 导入 OpenCV 库2. 定义获取视频时长的函数3. 打开视频文

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

sqlite3 命令行工具使用指南

《sqlite3命令行工具使用指南》本文系统介绍sqlite3CLI的启动、数据库操作、元数据查询、数据导入导出及输出格式化命令,涵盖文件管理、备份恢复、性能统计等实用功能,并说明命令分类、SQL语... 目录一、启动与退出二、数据库与文件操作三、元数据查询四、数据操作与导入导出五、查询输出格式化六、实用功

基于Python开发Windows屏幕控制工具

《基于Python开发Windows屏幕控制工具》在数字化办公时代,屏幕管理已成为提升工作效率和保护眼睛健康的重要环节,本文将分享一个基于Python和PySide6开发的Windows屏幕控制工具,... 目录概述功能亮点界面展示实现步骤详解1. 环境准备2. 亮度控制模块3. 息屏功能实现4. 息屏时间

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

SQLite3命令行工具最佳实践指南

《SQLite3命令行工具最佳实践指南》SQLite3是轻量级嵌入式数据库,无需服务器支持,具备ACID事务与跨平台特性,适用于小型项目和学习,sqlite3.exe作为命令行工具,支持SQL执行、数... 目录1. SQLite3简介和特点2. sqlite3.exe使用概述2.1 sqlite3.exe

OpenCV实现实时颜色检测的示例

《OpenCV实现实时颜色检测的示例》本文主要介绍了OpenCV实现实时颜色检测的示例,通过HSV色彩空间转换和色调范围判断实现红黄绿蓝颜色检测,包含视频捕捉、区域标记、颜色分析等功能,具有一定的参考... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间