Linux 下 inotify+rsync 文件实时同步

2024-04-07 19:18

本文主要是介绍Linux 下 inotify+rsync 文件实时同步,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、使用背景
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了! 二、相关介绍
Inotify 是一个 Linux 内核特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等(必须有不低于2.6.13的内核版本) rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步 三、环境描述
配置环境:centos 6.5 Rsync版本:rsync-3.0.6
Inotify版本:inotify-tools-3.13 服务器端:192.168.1.3 客户端:192.168.1.4 四、安装与配置rsync
1、安装rsync服务端 yum install rsync xinetd
2、编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、创建rsyncd.conf配置文件 vi /etc/rsyncd.conf 
use chroot=no #默认为true,修改为no,增加对目录文件软连接的备份 max connections=4 #最大连接数位4
pid file=/var/run/rsyncd.pid #pid文件的存放位置 log file=/var/log/rsyncd.log #日志文件的位置
lock file=/var/run/rsync.lock #支持max connections参数的锁文件 [roothome] #自定义名称
uid=root #设置rsync运行权限为root gid=root #设置rsync运行权限为root path=/var/roothome  #rsync服务端数据目录路径 comment=roothome #模块名称与自定义名称相同 ignore errors=yes ·# rsyncd在判断是否运行传输时的删除操作时忽略server上的IO错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题
read only=no #设定是否允许客户上载文件。如果为yes那么任何上载请求都会失败,如果为no并且服务器目录读写权限允许那么上载是允许的。默认值为yes
list=no #用户请求列出可使用的模块列表时,该模块是否被列出 auth users=root #指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)
secrets file=/etc/roothome.pass #指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,需要限式指定一个(例如:/etc/rsyncd.passwd)。注意:该文件的权限一定要是600,否则客户端将不能连接服务器  4、创建用户认证文件  vi /etc/rsync.pass   root:1.q1.q  5、设置文件权限
 
chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限 chmod 600 /etc/roothome.pass  #设置文件所有者读取、写入权限 6、启动rsync
/etc/init.d/xinetd start  #启动 service xinetd stop   #停止 service xinetd restart #重新启动
 
1、 安装rsync客户端
yum install rsync xinetd 
2、 编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、 创建密码认证文件(客户端只需要存在密码)
Vi /etc/roothome.txt 1.q1.q 

测试客户端是否可以向服务器上传数据

五、安装inotify-tools工具,实现rsync实时同步
uname –a #最小2.6.13内核
1、 安装inotify-toolsinotify-tools-3.13.tar.gz
 
yum install make  gcc gcc-c++  #安装编译工具 2、 tar zxvf inotify-tools-3.13.tar.gz  #解压
cd inotify-tools-3.13#进入解压目录
./configure --prefix=/usr/local/inotify  #配置 make  #编译
make install  #安装
3、 设置系统环境变量,添加软连接
echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh source /etc/profile.d/inotify.sh  #使设置立即生效
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf ln -s /usr/local/inotify/include  /usr/include/inotify
4、 修改inotify默认参数(inotify默认内核参数值太小)
修改参数:
sysctl -w fs.inotify.max_queued_events="99999999" sysctl -w fs.inotify.max_user_watches="99999999" sysctl -w fs.inotify.max_user_instances="65535" vi /etc/sysctl.conf #添加以下代码
fs.inotify.max_queued_events=99999999 #inotify队列最大长度 fs.inotify.max_user_watches=99999999  #要同步的文件包含多少目录 fs.inotify.max_user_instances=65535  #每个用户创建inotify实例最大值
5、 创建脚本,实时触发rsync进行同步
rsync.sh
 
 
六、因为在之前的rsync认证过程中使用的是Challenge/Response认证,密码是以明文形式
存储在本地的,因此我们课考虑使用ssh加密认证
在本地使用ssh-keygen命令创建公钥,并使用scp命令上传到服务器(openssh-clients中有scp命令)
但是使用ssh命令的用户必须是服务器端真实存在的用户,减少了灵活性,却增加了安全性



这篇关于Linux 下 inotify+rsync 文件实时同步的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/883438

相关文章

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

Linux中SSH服务配置的全面指南

《Linux中SSH服务配置的全面指南》作为网络安全工程师,SSH(SecureShell)服务的安全配置是我们日常工作中不可忽视的重要环节,本文将从基础配置到高级安全加固,全面解析SSH服务的各项参... 目录概述基础配置详解端口与监听设置主机密钥配置认证机制强化禁用密码认证禁止root直接登录实现双因素

在Linux终端中统计非二进制文件行数的实现方法

《在Linux终端中统计非二进制文件行数的实现方法》在Linux系统中,有时需要统计非二进制文件(如CSV、TXT文件)的行数,而不希望手动打开文件进行查看,例如,在处理大型日志文件、数据文件时,了解... 目录在linux终端中统计非二进制文件的行数技术背景实现步骤1. 使用wc命令2. 使用grep命令

Linux如何快速检查服务器的硬件配置和性能指标

《Linux如何快速检查服务器的硬件配置和性能指标》在运维和开发工作中,我们经常需要快速检查Linux服务器的硬件配置和性能指标,本文将以CentOS为例,介绍如何通过命令行快速获取这些关键信息,... 目录引言一、查询CPU核心数编程(几C?)1. 使用 nproc(最简单)2. 使用 lscpu(详细信

linux重启命令有哪些? 7个实用的Linux系统重启命令汇总

《linux重启命令有哪些?7个实用的Linux系统重启命令汇总》Linux系统提供了多种重启命令,常用的包括shutdown-r、reboot、init6等,不同命令适用于不同场景,本文将详细... 在管理和维护 linux 服务器时,完成系统更新、故障排查或日常维护后,重启系统往往是必不可少的步骤。本文

基于Linux的ffmpeg python的关键帧抽取

《基于Linux的ffmpegpython的关键帧抽取》本文主要介绍了基于Linux的ffmpegpython的关键帧抽取,实现以按帧或时间间隔抽取关键帧,文中通过示例代码介绍的非常详细,对大家的学... 目录1.FFmpeg的环境配置1) 创建一个虚拟环境envjavascript2) ffmpeg-py

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

OpenCV实现实时颜色检测的示例

《OpenCV实现实时颜色检测的示例》本文主要介绍了OpenCV实现实时颜色检测的示例,通过HSV色彩空间转换和色调范围判断实现红黄绿蓝颜色检测,包含视频捕捉、区域标记、颜色分析等功能,具有一定的参考... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间

Linux脚本(shell)的使用方式

《Linux脚本(shell)的使用方式》:本文主要介绍Linux脚本(shell)的使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录概述语法详解数学运算表达式Shell变量变量分类环境变量Shell内部变量自定义变量:定义、赋值自定义变量:引用、修改、删

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal