使用rsync构建镜像网站

发布时间:2023年12月28日

实验环境

某公司在深圳、北京两地各放置了一台网站服务器,分别应对南北大区内不断增长的客户访问需求,两台服务器的网站文档必须保持一致,如图12.3所示,同步链路已通过VPN专用线路实现。

需求描述

> 服务器 A(北京)作为rsync发起端,目录/var/www/html作为原始位置。

> 服务器B(深圳)作为远程rsync 服务器,目录/var/www/html 作为目标位置。

> 结合 inotify机制实现触发式的上行同步,保持两个站点的网页文档一致。

推荐步骤

配置rsync服务器(深圳,服务器B)。

通过 inotify 机制实现实时同步(北京,服务器 A)。

12.1配置rsync源服务器

本章以CentOS7.3系统中的rsync-3.1.2-4.el7.x86_64为例。

[root@node01 ~]# rpm -q rsync

? ? ? 在远程同步任务中,负责发起rsync同步操作的客户机称为发起端,而负责响应来自客户机的 rsync同步操作的服务器称为同步源。在同步过程中,同步源负责提供文档的原始位置,发起端应对 该位置具有读取权限,如图12.1所示。

(1)建立/etc/rsyncd.conf 配置文件。

? ? ?配置文件rsyncd.conf位于/etc目录下。下面将以源目录/var/www/html、备份账号backuper为例,介绍其配置方法。

[root@node01 ~]# vim /etc/rsyncd.conf

use chroot = yes                 //禁锢在源目录
address = 192.168.184.101        //监听地址
port 873                         //监听端口
log file = /var/log/rsyncd.log   //日志文件位置
pid file = /var/run/rsyncd.pid   //存放进程ID的文件位置
hosts allow = 192.168.184.0/24   //允许访问的客户机地址

[wwwroot]                        //共享模块名称
    path = /var/www/html         //源目录实际路径
    comment = Document Root of www1.bdqn.com  //描述信息,可自定义
    read only = yes                           //是否为只读
    dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z  //同步时不再压缩的文件类型
    auth users = backuper                             //授权账户
    secrets file = /etc/rsyncd_users.db               //存放账户信息的数据文件

? ? ? 基于安全性考虑,对于rsync的同步源最好仅允许以只读方式做同步,另外,同步可以采用匿名 的方式,只要将其中的“auth users”和‘secrets file”配置记录去掉就可以了。

(2)为备份账户创建数据文件。

? ? ? ? 根据上一步的设置,创建账号数据文件,添加一行用户记录,以冒号分隔,用户名称为“backuper" 密码为“pwd123”。由于账号信息采用明文存放,因此应调整文件权限,避免账号信息泄露。

[root@node01 ~]# vim /etc/rsyncd_users.db

backuper:pwd123    //无须建立同名系统用户

[root@node01 ~]# chmod 600 /etc/rsyncd_users.db

? ? ? 备份用户backuper需要对源目录/var/www/html有相应的读取权限,实际上只要other组有读取 权限,则备份用户backuper和运行用户nobody也就有读取权限了。

[root@node01 ~]# ls -ld /var/www/html/  //如没有这个目录需自行创建

(3)启动rsync服务程序,运行参数为“--daemon”。

? ? ? 上述操作完成以后.执行“rsync--deemon”命令就可以启动rsync服务,以独立监听服务的方式运行。若要关闭rsync服务,可以采取kill进程的方式,如kill $(cat/var/run/rsyncd.pid)。

[root@node01 ~]# rsync --daemon
[root@node01 ~]# netstat -anpt | grep rsync

12.2 使用rsync备份工具

? ? ? ?有了同步源服务器之后,就可以使用rsync工具来执行远程同步了,本节介绍的备份操作均在客 户机(发起端)执行,如服务器B(图12.1),实际上,同步源与发起端可以是同一台主机(当然这 种情况不常见),其效果相当于本地备份而不是异地备份。

1.rsync命令的基本用法

? ? ? ?绝大多数的备份程序要求指定原始位置、目标位置,rsync命令也一样。最简单的rsync用法类 似于cp命令。例如,可以将文件/etc/fstab、目录/boot/grub同步备份到/opt目录下,其中,“-r” 选项表示递归整个目录树,“-l”选项用来备份链接文件。

[root@node01 ~]# rsync /etc/fstab /opt/
[root@node01 ~]# rsync -rl /etc/fstab /boot/grub /opt

1)命令格式及常用备份选项

? ? ? 从以上操作可以看出,备份的基本格式为“rsync[选项]原始位置 目标位置”,其中常用的一些 命令选项如下所示,具体应根据实际需求选择(如-avz)。

> -r:递归模式,包含目录及子目录中的所有文件。

> -l:对于符号链接文件仍然复制为符号链接文件。

> -v:显示同步过程的详细(verbose)信息。

> -a:归档模式,保留文件的权限、属性等信息,等同于组合选项“-rlptgoD”。

> -z:在传输文件时进行压缩(compress)。

> -p:保留文件的权限标记。

> -t:保留文件的时间标记。

> -g:保留文件的属组标记(仅超级用户使用)。

> -o:保留文件的属主标记(仅超级用户使用)。

> -H:保留硬连接文件。

> -A:保留ACL属性信息。

> -D:保留设备文件及其他特殊文件。

--delete:删除目标位置有而原始位置没有的文件。

--checksum:根据校验和(而不是文件大小、修改时间)来决定是否跳过文件。

2)配置源的表示方法

? ? ? 在执行远程同步任务时,rsync命令需要指定同步源服务器中的资源位置。rsync同步源的资源表 示方式为“用户名@主机地址 :: 共享模块名”或者“rsync://用户名@主机地址/共享模块名”,前 者为两个冒号分隔形式,后者为URL地址形式。例如,执行以下操作将访问rsync同步源,将指定的资源下载到本地/root目录下进行备份。

[root@node02 ~]# rsync -avz backuper@192.168.184.101::wwwroot /root

或 两个方法都行,可选其一使用

[root@node02 ~]# rsync -avz rsync://backuper@192.168.184.101/wwwroot /root

2. rsync备份操作示例

执行以下操作将访问源服务器中的wwwroot共享模块,并下载到本地的/myweb目录下。

[root@node02 ~]# mkdir /mywed
[root@node02 ~]# rsync -avzH --delete backuper@192.168.184.101::wwwroot /mywed 
                        
                        加上-H:保留硬链接文件

?

? ? ? ?实际生产环境中的备份工作通常是按计划重复执行的。例如,每天晚上22:30对服务器的网站 目录做一次同步,定期任务可以交给crond服务来完成。

? ? ? ?为了在同步过程中不用输入密码,需要创建一个密码文件,保存backuper用户的密码,如 /etc/server.pass。在执行rsync同步时使用选项“--password-file=/etc/server.pass”指定即可。

[root@node02 ~]# vim /etc/server.pass

pwd123

[root@node02 ~]# crontab -e

30 22 * * * /usr/bin/rsync -az --delete --password-file=/etc/server.pass \
backuper@192.168.184.101::wwwroot /myweb  //每天22:30执行脚本


[root@node02 ~]# systemctl restart crond
[root@node02 ~]# systemctl enable crond

12.3 配置inotify+rsync实时同步

? ? ? ?将 inotify机制与rsync 工具相结合,可以实现触发式备份(实时同步)——只要原始位置的文档 发生变化,则立即启动增量备份操作,否则处于静默等待状态,如图12.2所示。这样,就避免了按 固定周期备份时存在的延迟性,周期过密等问题。

? ? ? ?正因为inotify通知机制由Linux内核提供,因此主要做本机监控,在触发式备份中应用时更适合 上行同步,下面依次介绍其配置过程。

1. 调整inotify内核参数

? ? ?在Linux内核中.默认的inotify机制提供了三个调控参数:max_queue_events、max_user_instances、?max_user_watches,分别表示监控事件队列(16384)、最多监控实例数(128)、每个实例最多监控文 件数(8192)。

[root@node02 ~]# cat /proc/sys/fs/inotify/max_queued_events 

[root@node02 ~]# cat /proc/sys/fs/inotify/max_user_instances 

[root@node02 ~]# cat /proc/sys/fs/inotify/max_user_watches 

? ? ? 当要监控的目录,文件数量较多或者变化较频繁时,建议加大这三个参数的值。例如,可直接 修改/etc/sysctl.conf配置文件,将管理队列设为32768,实例数设为1024,监控数设为1048576,?通常情况下,监控数所设的值建议大于监控目标的总文件数。

2. 安装inotify-tools(在源安装,需要备份的主机)

? ? ? ?使用 inotify 机制还需要安装 inotify-tools.以便提供 inotifywait.inotifywatch 辅助工具程序,用 来监控,汇总改动情况。inotify-tools可从网站http://inotify-tools.sourceforge.net/下载,版本为3.14。

?

本实验在FTP服务器下载的inotify-tools-3.14.tar.gz

[root@node01 ~]# mount /dev/cdrom /mnt/
[root@node01 ~]# rpm -ivh /mnt/Packages/ftp-0.17-67.el7.x86_64.rpm
[root@node01 ~]# ftp 172.16.37.13


ftp> get inotify-tools-3.14.tar.gz

解包等等

[root@node01 ~]# tar zxf inotify-tools-3.14.tar.gz 
[root@node01 ~]# cd inotify-tools-3.14
[root@node01 inotify-tools-3.14]# ./configure
[root@node01 inotify-tools-3.14]# make
[root@node01 inotify-tools-3.14]# make install

? ? ? 以监控网站目录/var/www/html为例,可以先执行“inotifywait命令,然后在另一个终端向 /var/www/html目录下添加文件,移动文件,跟踪屏幕输出结果,其中,选项‘-e”用来指定要监控哪些事件,选项‘-m”表示持续监控,选项“-r”表示递归整个目录,选项“-q”简化输出信息。

[root@node01 ~]# inotifywait -mrq -e modify,create,move,delete /var/www/html/

? ? ? ?inotifywait可监控modify(修改)、create(创建)、move(移动)、delete(删除)、attrib(属性更改)等各种事件,一有变动立即输出结果:inotifywatch 可用来收集文件系统变动情况,并在运行结束后输出汇总的变化情况。关于这两个命令的详细用法可以参考其man手册页,配置触发备份任务时只要用到inotifywait就可以了。

3.编写触发式同步脚本(需配置ssh密钥对认证)

? ? ? 使用inotifywait输出的监控结果中,每行记录中依次包括目录、事件,文件,据此可以识别变 动情况。为了简单,只要检测到变动时执行rsync上行同步操作即可,需要注意的是,当更新较频繁时,应避免并发执行rsync备份——若rsync进程已经存在,则忽略本次同步,或者根据rsync进程数量(取决于实际任务)来决定是否同步.

[root@node01 ~]# vim /opt/inotify_rsync.sh

#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,move,delete /var/www/html/"
RSYNC_CMD="rsync -rav /var/www/html root@192.168.184.110:/myweb"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
    $RSYNC_CMD
done


[root@node01 ~]# chmod +x /opt/inotify_rsync.sh
[root@node01 ~]# echo '/opt/inotify_rsync.sh' >> /etc/rc.local

? ? ?上述脚本用来检测本机/var/www/htrl 目录的变动情况,一旦有更新触发rsync同步操作,上 传备份至服务器192.168.8.110的/var/www/html目录下。

触发式上行同步的验证过程如下所述,具体操作不再赘述。

(1)在本机运行/opt/inotify_rsync.sh脚本程序。

(2)切换到本机的/var/www/html目录,执行增加、删除、修改文件等操作。

(3)查看服务器中的/var/www/html 目录下的变化情况。

文章来源:https://blog.csdn.net/2301_77023501/article/details/135269593
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。