CentOS下(rsync+inotify)监听式实现服务器间的备份实时同步

2024-06-07 17:32

本文主要是介绍CentOS下(rsync+inotify)监听式实现服务器间的备份实时同步,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

背景

  • 前几天,整理了一篇 (rsync+crontab) 实现文件同步的文章),不过从网上得知,网上很多言论认为在优势上不如监听实现的效果,所以在此进行新的配置尝试,同时建议可以对比两篇文章进行参考,但是要注意服务器扮演角色的不同以及配置方式的差异,切勿混淆

rsync 可以实现服务器间的文件同步,有两种方式

一种是触发式 —— crontab;
另一种是监听式 —— inotify,但是通过 crontab 守护进程方式进行触发;
同步的数据和实际数据会有差异;
而  inotify  可以监控文件系统的各种变化;
当文件有任何变动时,就触发 rsync 同步, 这样刚好解决了同步数据的实时性问题
  • 测试环境: CentOS 6.5CentOS 7
  • 功能亮点: 监听、实时同步、相比上篇文章实现的方式要简单并且配置成功率高!

【声明】 :本文参考了网上很多前辈的言论,并通过自己的实践进行了整理,希望能帮助更多的程序猿探索之路上的顺利 …

一、概念介绍

inotify 是一种强大的、细粒度的、异步的文件系统事件控制机制

  • linux 内核从 2.6.13 起,加入了 inotify 支持,通过 inotify 可以监控文件系统中添加、删除、修改、移动等各种事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而 inotify-tools 正是实施监控的软件

二、功能分析

(1). 角色分配表

服务器名称IP-addrstatus工具安装系统版本操作目录
数据服务器(服务端)192.168.1.161clientrsync、inotify-toolscentos6.5/server/ftpInotify/
备份服务器(客户端)192.168.1.150serverrsynccentos7/server/ftpInotify/
  • 喜欢这个解释:

谁主动谁是客户端,谁被动谁是服务端

如果我们需要实时备份数据;
让 inotify 监控文件系统的各种变化;
当文件有任何变动时,就触发rsync 同步,则该源服务器为主动,那它就是 客户端;
备份服务器为被动方,那它就是 服务端

(2). 简要说明

  • 配置此功能,首先明确的是,在角色上,数据服务端和备份服务器可以(1:N)
1. 在操作上,最简单的配置比例为【1:1】 例如,本次的实际操作中,我配置了一个数据服务器(IP:192.168.1.161)其中的一个备份服务器(IP:192.168.1.150)后期可以根据自己的需求添加 备份服务器 数目比如说,后期个人测试时又添加了第一个备份服务器(IP:192.168.1.160)2. 功能实现的结果为:当数据服务器中的备份目录中数据发生变化时对应的,备份服务器通过监控也会及时的进行同步更新,多台备份服务器

三、配置操作

  • 在此提醒一下,本人在测试过程中,使用的是 root 账户,当然,如果使用的是其他账户,只要保证有足够的权限也可,谢谢 …

(1). 备份服务器(server)配置

(服务器IP):192.168.1.150

①. 安装 rsync(备份服务器只安装 rsync,需要启动)

  • 如今的 linux 系统,很可能已经默认安装了 rsync,可以运行命令 rpm -aq rsync 或者 rsync -v 进行查看,如下信息说明已经安装了 rsync

  • 如果没有默认安装,建议运行如下命令

yum install rsync
  • 或者使用编译安装
[root@bogon rsyncd]# wget  http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz  
[root@bogon rsyncd]# tar zxvf rsync-3.0.9.tar.gz  
[root@bogon rsyncd]# cd rsync-3.0.9  
[root@bogon rsyncd]# ./configure --prefix=/etc/rsyncd/rsync  #可自定义
[root@bogon rsyncd]# make  
[root@bogon rsyncd]# make install  

②. 建立 rsync 配置文件

  • 以本人为例,因为系统 centos6.5centos7 已默认安装了 rsync ,为了便于操作,本人创建了目录/etc/rsyncd/,然后添加了一个软链接,并将信息写入该目录下的 rsync.conf 文件

注意: 如果之间就默认安装的 rsync,那么就已存在 /etc/rsyncd.conf文件,所以要先删掉该文件,不然创建软链接会报错 “已存在文件xxx”

mkdir /etc/rsyncd
touch /etc/rsyncd/rsyncd.conf #创建 rsyncd.conf,这是 rsync 服务器的配置文件
ln -s /etc/rsyncd/rsyncd.conf /etc/rsyncd.conf #创建软链接
  • 在自己安装的 rsync 目录下,创建 rsyncd.conf 文件 ,并写入如下的信息
# /etc/rsyncd: configuration file for rsync daemon mode
# See rsyncd.conf man page for more options.
# configuration example:# uid = nobody
# gid = nobody
# use chroot = yes
# max connections = 4
# pid file = /var/run/rsyncd.pid
# exclude = lost+found/
# transfer logging = yes
# timeout = 900
# ignore nonreadable = yes
# dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2# [ftp]
#        path = /home/ftp
#        comment = ftp export areauid = root
gid = root
use chroot = no
max connections = 10
strict modes = yes
hosts allow = 192.168.1.161               #可以空格,允许多个
port = 873                  #默认开启端口
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log  #请定期清除该日志数据,不然数目量太大[inotify]                    
#认证模块名path = /server/ftpInotify/   
#监控目录comment = Hello My Dear!      
#此为注释信息,便于识别,可自定义ignore errors
read only = no
write only = nohosts allow = 192.168.1.161   
#此为数据服务器(client)IP地址hosts deny = *
list = false
uid = root
gid = root
auth users = root             
#赋予权限的用户,此处我用的是root用户secrets file = /etc/rsyncd/rsync.password 
#密码文件exclude = /rs1/
#指定不同步的目录,以空格分割 最前面的斜杠表示当前的‘path = /server/ftpInotify/’根目录,如果不加则表示所有的同名子目录

【注】:

1. 注释部分解释主要的配置信息
2. 尤其要注意的是,注释部分的信息设置多数是换行操作,经测试发现,部分配置信息如果在同一行,就会报 "1503" 或其他错误,比如 "secrets file" 这行同时此处对应的目录在下一步要用到.

③. 建立用户与密码认证文件

  • 以本人操作系统为例,使用 root 用户进行操作,自定义密码为 root123 (此密码并非登录密码,只是一个 rsyncclient 服务器进行交互的凭证,可自定义)
  • 创建 rsync.password 文件,并写入【用户名:密码】,记住此处的密码!
[root@bogon rsyncd]# echo "root:root123"> /etc/rsyncd/rsync.password 
  • 需要给密码文件 600 权限
[root@bogon rsyncd]# chmod 600 /etc/rsyncd/rsync.password 

【注】:

>  1."client" 端建立的密码文件,只有密码,没有用户名
>  2. 而在备份服务端 "server" 里建立的密码文件,用户名与密码都有

④. 启动 rsync

  • 以守护进程方式启动 rsync 服务器
rsync --daemon 

【注】: 修改 rsyncd.conf配置文件后,记得需要重启 rsync 服务

 killall rsyncrsync --daemon lsof -i :873 #可查看是否已启动

(2). 数据服务器(client)配置

(服务器IP):192.168.1.161

①. 安装 rsync(只需安装,无需启动)

  • 请参考上文,此处不再赘述

②. 建立访问服务端的密码认证文件

  • 为了便于操作,本人创建了目录/etc/rsyncd/
echo "root123" >/etc/rsyncd/rsync.password   
#其中 "root123" 可以自己设置密码,rsync.password 名字也可以自己设置
  • 设置权限为只读
[root@bogon rsyncd]# chmod 600 rsync.password 

③. 安装 inotify-tools

  • 查看当前系统是否支持 inotify
[root@bogon etc]# ll /proc/sys/fs/inotify/
总用量 0
-rw-r--r--. 1 root root 0 12月  5 20:12 max_queued_events
-rw-r--r--. 1 root root 0 12月  5 20:12 max_user_instances
-rw-r--r--. 1 root root 0 12月  5 20:12 max_user_watches
  • 依次执行如下命令
[root@bogon rsyncd]# wget http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz  
[root@bogon rsyncd]# tar zxvf inotify-tools-3.14.tar.gz  
[root@bogon rsyncd]# cd inotify-tools-3.14  
[root@bogon inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify  
[root@bogon inotify-tools-3.14]# make  
[root@bogon inotify-tools-3.14]# make install 
  • 如果运行 wget http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz 命令无法获取源包(至少本人获取失败),可以下载源包,再移动到自己的操作目录

【inotify-tools-3.14.tar.gz 】 链接:https://pan.baidu.com/s/1c2OP90 密码:v01s

④. 创建 rsync 复制脚本

  • 此项功能主要是将 client 端的目录 /server/ftpInotify/ 里的内容,如果修改了(无论是添加、修改、删除文件)能够通过 inotify 监控到,并通过 rsync 实时的同步给 server/server/ftpInotify/

  • 以本人操作为例子,创建 inotify.sh 脚本文件,并写入下面的信息
    (请根据自己的需求参考注释进行修改,尽量保证该文件不会被删除,可放置于非同步目录中)

#!/bin/bash
host=192.168.1.150    #server的ip(备份服务器)
src=/server/ftpInotify/  #所要监控的备份目录(此处可以自定义,但是要保证存在)
des=inotify   #自定义的模块名,需要与client端定义的一致
password=/etc/rsyncd/rsync.password  #密码文件
user=root    #用户名(一个实际存在的账号)
inotify=/usr/local/inotify    #inotify的安装目录                ${inotify}/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src \
| while read files
do
rsync -avzP --delete  --timeout=100 --password-file=${password} $src $user@$host::$des
echo "${files} was rsynced" >>/tmp/rsync.log 2>&1
done
  • 参考截图

  • 保存文件后,为 .sh 脚本增加 764 权限

[root@bogon server]# chmod 764 inotify.sh 
  • 运行脚本 "sh inotify.sh &" 或者 "nohup sh inotify.sh &" (前者会一直打印信息,建议使用后者)
[root@bogon server]# nohup sh inotify.sh &
[1] 1925

此时,日志信息都会默认存储到当前目录下的一个 nohup.out 文件中,可自行查看

  • 可以通过查看命令 ps -ef |grep inotify,查看 进程运行情况,如果想结束线程,可以使用命令 kill -9 xxx

    【注】: (如果可以,请将其设置为开机启动项)
  • 本人通过实测发现,网上的好多方法没能设置成功,最后找到一种适合自己的方案,仅做参考:
echo "setsid /server/inotify.sh &" >> /etc/rc.local


【重点】:

  • 因为日志信息打印的太过频繁,可以通过以下命令进行清除
[root@bogon server]#  cat /dev/null >nohup.out

------ 鄙人建议,使用计划任务定期清除日志信息 ,可参考文章:Linux crontab 定时任务的使用

> 其中提及的就有这个 "nohup.out"文件;
> 同时和前面在配置备份服务器中设置rsync打印日志的目录文件 >>> "/var/log/rsyncd.log"
> 注意不要轻易使用 "rm -rf "命令;
> 测试中发现,有影响网站运行的情况发生!!!

(3). 功能测试

当然为了稳当起见,还是要重启测试下,自启动脚本是否正常运行,保证万无一失

- 首先,保证了服务器对应的位置,都已经建立了操作目录
- 保证相应的服务都已经启动
- 例如,我在 client (192.168.1.161)"/server/ftpInotify" 目录下更改了"RE"文件,并进行了保存,此时,其所在的终端会自动打印如下信息:

  • 此时,查看server (192.168.1.150) 对应的 /server/ftpInotify目录,会发现,文件已经进行了更新

【注】:

> 1. 以上操作也可以在一台服务器实现,同步目录到不同的目录
> 2. 仿照相同的操作,可以扩展多个"server";例如我又根据上述操作,添加了一台备份服务器(IP:192.168.1.160;同时在数据服务器(IP:192.168.1.161)中还需添加一个 "inotify2.sh" 脚本文件;并同样的赋予 764 权限 然后运行脚本

四、附录

(1). 推荐/参考文章

  • rsync+inotify 实现服务器之间文件实时同步
  • rsync+inotify 实现实时同步案例
  • centos6.5 rsync+inotify 实现服务器之间文件实时同步
  • ln 命令讲解
  • Linux中使用rsync——文件和目录排除列表
  • rsync常见错误总结
  • 真正的inotify+rsync实时同步 彻底告别同步慢(特别推荐)

(2). 自测:rsync 指定不需同步的目录操作

  • 以我的备份目录为例,不同步其中的 rs1 目录,但是 rs2 目录下的所有文件不能受影响,包括同名的 rs1 目录也是需要同步的:
- server-ftpInotify-rs1RE.log-rs2-rs1RE.txtre.log

①. 第一种方式:配置 rsyncd.conf 文件

  • 此时可以配置“备份服务器”中的 rsyncd.conf 文件,其中的 “exclude” 参数可用于表示不需要同步的指定目录,注我的备注,如果写成 “rs1/”,那么结果就是所有的 rs1 目录都不同步,文件可以同样类比结论 …
exclude = /rs1/
# 指定不同步的目录,以空格分割 最前面的斜杠表示当前的 "path = /server/ftpInotify/" 根目录
# 如果不加则表示所有的同名子目录
  • 虽然实现了这个功能,却发现“数据服务器”中报出如下的信息,网上多数说文件权限问题,但总觉得不受影响 …
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1039) [sender=3.0.6]
sending incremental file list
ERROR: daemon refused to receive directory "rs1"
*** Skipping any contents from this failed directory ***

②. 第二种方式:配置 .sh 脚本

  • 利用参数 --exclude 进行排除,个人测试发现,如果需要排除的是一个目录,应该注意添加后面的/,如果有多个可以依次配置,我网站的实际配置举例如下:
 rsync -avzP --delete --exclude=Public/ --exclude=Application/Runtime/  --timeout=100         --password-file=${password} $src $user@$host::$des
  • 可参考文章 -(rsync多模块配置&排除功能)

(3). 补充

  1. 对于文中涉及到的“客户端”、“服务端”的概念,在理解上或许有些不好理解,对于有所纠结的可以选择忽略这两个概念,可以直接强化“数据服务器”和“备份服务器”这两个概念
  2. 可对比文章 CentOS下(rsync+crontab)实现服务端和客户端文件备份同步 进行比较学习
  3. 执行命令过程中,有类似“文件已存在”的提示,可以先删掉文件,再按步骤进行安装 .

这篇关于CentOS下(rsync+inotify)监听式实现服务器间的备份实时同步的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1039835

相关文章

C++中零拷贝的多种实现方式

《C++中零拷贝的多种实现方式》本文主要介绍了C++中零拷贝的实现示例,旨在在减少数据在内存中的不必要复制,从而提高程序性能、降低内存使用并减少CPU消耗,零拷贝技术通过多种方式实现,下面就来了解一下... 目录一、C++中零拷贝技术的核心概念二、std::string_view 简介三、std::stri

C++高效内存池实现减少动态分配开销的解决方案

《C++高效内存池实现减少动态分配开销的解决方案》C++动态内存分配存在系统调用开销、碎片化和锁竞争等性能问题,内存池通过预分配、分块管理和缓存复用解决这些问题,下面就来了解一下... 目录一、C++内存分配的性能挑战二、内存池技术的核心原理三、主流内存池实现:TCMalloc与Jemalloc1. TCM

OpenCV实现实时颜色检测的示例

《OpenCV实现实时颜色检测的示例》本文主要介绍了OpenCV实现实时颜色检测的示例,通过HSV色彩空间转换和色调范围判断实现红黄绿蓝颜色检测,包含视频捕捉、区域标记、颜色分析等功能,具有一定的参考... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间

Python实现精准提取 PDF中的文本,表格与图片

《Python实现精准提取PDF中的文本,表格与图片》在实际的系统开发中,处理PDF文件不仅限于读取整页文本,还有提取文档中的表格数据,图片或特定区域的内容,下面我们来看看如何使用Python实... 目录安装 python 库提取 PDF 文本内容:获取整页文本与指定区域内容获取页面上的所有文本内容获取

基于Python实现一个Windows Tree命令工具

《基于Python实现一个WindowsTree命令工具》今天想要在Windows平台的CMD命令终端窗口中使用像Linux下的tree命令,打印一下目录结构层级树,然而还真有tree命令,但是发现... 目录引言实现代码使用说明可用选项示例用法功能特点添加到环境变量方法一:创建批处理文件并添加到PATH1

Java使用HttpClient实现图片下载与本地保存功能

《Java使用HttpClient实现图片下载与本地保存功能》在当今数字化时代,网络资源的获取与处理已成为软件开发中的常见需求,其中,图片作为网络上最常见的资源之一,其下载与保存功能在许多应用场景中都... 目录引言一、Apache HttpClient简介二、技术栈与环境准备三、实现图片下载与保存功能1.

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal

Nexus安装和启动的实现教程

《Nexus安装和启动的实现教程》:本文主要介绍Nexus安装和启动的实现教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、Nexus下载二、Nexus安装和启动三、关闭Nexus总结一、Nexus下载官方下载链接:DownloadWindows系统根

SpringBoot集成LiteFlow实现轻量级工作流引擎的详细过程

《SpringBoot集成LiteFlow实现轻量级工作流引擎的详细过程》LiteFlow是一款专注于逻辑驱动流程编排的轻量级框架,它以组件化方式快速构建和执行业务流程,有效解耦复杂业务逻辑,下面给大... 目录一、基础概念1.1 组件(Component)1.2 规则(Rule)1.3 上下文(Conte

MySQL 横向衍生表(Lateral Derived Tables)的实现

《MySQL横向衍生表(LateralDerivedTables)的实现》横向衍生表适用于在需要通过子查询获取中间结果集的场景,相对于普通衍生表,横向衍生表可以引用在其之前出现过的表名,本文就来... 目录一、横向衍生表用法示例1.1 用法示例1.2 使用建议前面我们介绍过mysql中的衍生表(From子句