一．為什么要用Rsync+sersync架構
1．sersync是基於Inotify開發的，類似於Inotify-tools的工具
2．sersync可以記錄下被監聽目錄中發生變化的（包括增加、刪除、修改）具體某一個文件或某一個目錄的名字，然后使用rsync同步的時候，只同步發生變化的這個文件或者這個目錄。
二．Rsync+Inotify-tools與Rsync+sersync這兩種架構有什么區別
1．Rsync+Inotify-tools
（1）：Inotify-tools只能記錄下被監聽的目錄發生了變化（包括增加、刪除、修改），並沒有把具體是哪個文件或者哪個目錄發生了變化記錄下來；
（2）：rsync在同步的時候，並不知道具體是哪個文件或者哪個目錄發生了變化，每次都是對整個目錄進行同步，當數據量很大時，整個目錄同步非常耗時（rsync要對整個目錄遍歷查找對比文件），因此，效率很低。
2．Rsync+sersync
（1）：sersync可以記錄下被監聽目錄中發生變化的（包括增加、刪除、修改）具體某一個文件或某一個目錄的名字；
（2）：rsync在同步的時候，只同步發生變化的這個文件或者這個目錄（每次發生變化的數據相對整個同步目錄數據來說是很小的，rsync在遍歷查找比對文件時，速度很快），因此，效率很高。
小結：當同步的目錄數據量不大時，建議使用Rsync+Inotify-tools；當數據量很大（幾百G甚至1T以上）、文件很多時，建議使用Rsync+sersync。
說明：
操作系統：CentOS 6
源服務器：192.168.21.129
目標服務器：192.168.21.127，192.168.21.128
目的：把源服務器上/home/wwwoot/目錄實時同步到目標服務器的/home/ wwwoot/下
具體操作：
第一部分：分別在兩台目標服務器192.168.21.127，192.168.21.128上操作
三．分別在兩台在目標服務器安裝Rsync服務端
1．關閉SELINUX
[root@rsync ~]# vim /etc/selinux/config #編輯防火牆配置文件 #SELINUX=enforcing #注釋掉 #SELINUXTYPE=targeted #注釋掉 SELINUX=disabled #增加 :wq! #保存，退出 [root@rsync ~]# setenforce 0 #立即生效
2．開啟防火牆tcp 873端口（Rsync默認端口）
[root@rsync ~]# vim /etc/sysconfig/iptables #編輯防火牆配置文件 -A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT :wq! #保存退出 [root@rsync ~]# /etc/init.d/iptables restart #最后重啟防火牆使配置生效
3．安裝Rsync服務端軟件
[root@rsync ~]# yum install rsync #安裝 [root@rsync ~]# rsync –deamon #啟動rsync
4．創建rsyncd.conf配置文件
[root@rsync ~]# vi /etc/rsyncd.conf #創建配置文件，添加以下代碼
log file = /var/log/rsyncd.log #日志文件位置，啟動rsync后自動產生這個文件，無需提前創建 pidfile = /var/run/rsyncd.pid #pid文件的存放位置 lock file = /var/run/rsync.lock #支持max connections參數的鎖文件 secrets file = /etc/rsync.pass #用戶認證配置文件，里面保存用戶名稱和密碼，后面會創建這個文件 [gaosubo] #自定義名稱 path = /home/wwwroot/ #rsync服務端數據目錄路徑 comment = gaosubo #模塊名稱與[home_www.osyunwei.com]自定義名稱相同 uid = rsync #設置rsync運行權限為rsync gid = rsync #設置rsync運行權限為rsync port=873 #默認端口 use chroot = no #默認為true，修改為no，增加對目錄文件軟連接的備份 read only = no #設置rsync服務端文件為讀寫權限 list = no #不顯示rsync服務端資源列表 max connections = 200 #最大連接數 timeout = 600 #設置超時時間 auth users = gaosubo #執行數據同步的用戶名，可以設置多個，用英文狀態下逗號隔開 hosts allow = 192.168.21.129 #允許進行數據同步的客戶端IP地址，可以設置多個，用英文狀態下逗號隔開 hosts deny = 192.168.21.254 #禁止數據同步的客戶端IP地址，可以設置多個，用英文狀態下逗號隔開
:wq! #保存,退出
5．創建用戶認證文件
[root@rsync ~]# vim /etc/rsync.pass #配置文件，添加以下內容 gaosubo:123456 #格式，用戶名:密碼，可以設置多個，每行一個用戶名:密碼
:wq! #保存退出
6．設置文件權限
[root@rsync ~]# chmod 600 /etc/rsyncd.conf #設置文件所有者讀取、寫入權限 [root@rsync ~]# chmod 600 /etc/rsync.pass #設置文件所有者讀取、寫入權限
7．啟動rsync
[root@rsync ~]# rsync --deamon #rsync deamon模式啟動 [root@rsync ~]# killall rayns #停止，殺掉進程
第二部分：在源服務器192.168.21.129上操作
四．安裝Rsync客戶端
1．關閉SELINUX
[root@rsync ~]# vi /etc/selinux/config #編輯防火牆配置文件 #SELINUX=enforcing #注釋掉 #SELINUXTYPE=targeted #注釋掉 SELINUX=disabled #增加
:wq! #保存退出
setenforce 0 #立即生效
2．開啟防火牆tcp 873端口（Rsync默認端口，做為客戶端的Rsync可以不用開啟873端口）
[root@rsync ~]# vim /etc/sysconfig/iptables #編輯防火牆配置文件 -A RH-Firewall-1-INPUT -m state --state NEW -m tcp -p tcp --dport 873 -j ACCEPT
:wq! #保存退出
[root@rsync ~]# /etc/init.d/iptables restart #最后重啟防火牆使配置生效
3．安裝Rsync客戶端端軟件
[root@rsync ~]# whereis rsync #查看系統是否已安裝rsync,出現下面的提示，說明已經安裝 rsync: /usr/bin/rsync /usr/share/man/man1/rsync.1.gz yum install rsync #如果默認沒有rsync，運行此命令進行安裝rsync
4．創建認證密碼文件
[root@rsync ~]# vi /etc/passwd.txt #編輯文件，添加以下內容
123456 #密碼
:wq! #保存退出
[root@rsync ~]# chmod 600 /etc/passwd.txt #設置文件權限，只設置文件所有者具有讀取、寫入權限即可
5．測試源服務器192.168.21.129到兩台目標服務器192.168.21.127，192.168.21.128之間的數據同步
[root@rsync ~]# mkdir /home/wwwroot/gaosubo #在源服務器上創建測試文件夾，然后在源服務器運行下面2行命令 [root@rsync ~]# rsync -avH --port=873 --progress --delete /home/wwwroot/ gaosubo@192.168.21.127::gaosubo --password-file=/etc/passwd.txt [root@rsync ~]# rsync -avH --port=873 --progress --delete /home/wwwroot/ gaosubo@192.168.21.128::gaosubo --password-file=/etc/passwd.txt
運行完成后，分別在兩台目標服務器192.168.21.127，192.168.21.128上查看，在/home/wwwroot/目錄下有gaosubo文件夾，說明數據同步成功。
五．安裝sersync工具，實時觸發rsync進行同步
1．查看服務器內核是否支持inotify
[root@rsync ~]# ll /proc/sys/fs/inotify #列出文件目錄，出現下面的內容，說明服務器內核支持inotify total 0 -rw-r--r-- 1 root root 0 Jan 20 21:43 max_queued_events -rw-r--r-- 1 root root 0 Jan 20 21:43 max_user_instances -rw-r--r-- 1 root root 0 Jan 20 21:43 max_user_watches
2．修改inotify默認參數（inotify默認內核參數值太小）
查看系統默認參數值： [root@rsync ~]# sysctl -a | grep max_queued_events fs.inotify.max_queued_events = 16384 [root@rsync ~]# sysctl -a | grep max_user_instances fs.inotify.max_user_instances = 128 [root@rsync ~]# sysctl -a | grep max_user_watches fs.inotify.max_user_watches = 8192 修改參數： sysctl -w fs.inotify.max_queued_events="99999999" sysctl -w fs.inotify.max_user_watches="99999999" sysctl -w fs.inotify.max_user_instances="65535" [root@rsync ~]# vi /etc/sysctl.conf #添加以下代碼 fs.inotify.max_queued_events=99999999 fs.inotify.max_user_watches=99999999 fs.inotify.max_user_instances=65535
:wq! #保存退出
參數說明：
max_queued_events： inotify隊列最大長度，如果值太小，會出現"** Event Queue Overflow **"錯誤，導致監控文件不准確 max_user_watches： 要同步的文件包含多少目錄，可以用：find /home/wwwroot/ -type d | wc -l 統計，必須保證max_user_watches值大於統計結果（這里/home/wwwroot/為同步文件目錄） max_user_instances： 每個用戶創建inotify實例最大值
3．安裝sersync
sersync下載地址：https://sersync.googlecode.com/files/sersync2.5.4_64bit_binary_stable_final.tar.gz
上傳sersync2.5.4_64bit_binary_stable_final.tar.gz到/usr/local/src目錄下
[root@rsync ~]# cd /usr/local/src [root@rsync ~]# tar zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz #解壓 [root@rsync ~]# mv GNU-Linux-x86 /usr/local/sersync #移動目錄到/usr/local/sersync
4．配置sersync
[root@rsync ~]# cd /usr/local/sersync #進入sersync安裝目錄 [root@rsync ~]# cp confxml.xml confxml.xml-bak #備份原文件 [root@rsync ~]# vim confxml.xml #編輯，修改下面的代碼
<?xml version="1.0" encoding="ISO-8859-1"?> <head version="2.5"> <host hostip="localhost" port="8008"></host> <debug start="false"/> <fileSystem xfs="false"/> <filter start="false"> <exclude expression="(.*)\.svn"></exclude> <exclude expression="(.*)\.gz"></exclude> <exclude expression="^info/*"></exclude> <exclude expression="^static/*"></exclude> </filter> <inotify> <delete start="true"/> <createFolder start="true"/> <createFile start="false"/> <closeWrite start="true"/> <moveFrom start="true"/> <moveTo start="true"/> <attrib start="false"/> <modify start="false"/> </inotify> <sersync> <localpath watch="/home/gaosubo"> <remote ip="192.168.21.127" name="gaosubo"/> <remote ip="192.168.21.128" name="gaosubo"/> <!--<remote ip="192.168.8.40" name="xx"/>--> </localpath> <rsync> <commonParams params="-artuz"/> <auth start="true" users="gaosubo" passwordfile="/etc/passwd.txt"/> <userDefinedPort start="false" port="874"/><!-- port=874 --> <timeout start="false" time="100"/><!-- timeout=100 --> <ssh start="false"/> </rsync> <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--> <crontab start="true" schedule="600"><!--600mins--> <crontabfilter start="false"> <exclude expression="*.php"></exclude> <exclude expression="info/*"></exclude> </crontabfilter> </crontab> <plugin start="false" name="command"/> </sersync> <plugin name="command"> <param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix--> <filter start="false"> <include expression="(.*)\.php"/> <include expression="(.*)\.sh"/> </filter> </plugin> <plugin name="socket"> <localpath watch="/opt/tongbu"> <deshost ip="192.168.138.20" port="8009"/> </localpath> </plugin> <plugin name="refreshCDN"> <localpath watch="/data0/htdocs/cms.xoyo.com/site/"> <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/> <sendurl base="http://pic.xoyo.com/cms"/> <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/> </localpath> </plugin> </head>
:wq! #保存退出
參數說明：
localpath watch="/home/wwwroot/"：#源服務器同步目錄 192.168.21.127，192.168.21.128：#目標服務器IP地址 name="home_www.osyunwei.com"： #目標服務器rsync同步目錄模塊名稱 users="gaosubo"： #目標服務器rsync同步用戶名 passwordfile="/etc/passwd.txt"： #目標服務器rsync同步用戶的密碼在源服務器的存放路徑 remote ip="192.168.21.127": #目標服務器ip，每行一個 remote ip="192.168.21.128": #目標服務器ip，每行一個 failLog path="/tmp/rsync_fail_log.sh" #腳本運行失敗日志記錄 start="true" #設置為true，每隔600分鍾執行一次全盤同步
5．設置sersync監控開機自動執行
vi /etc/rc.d/rc.local #編輯，在最后添加一行 /usr/local/sersync/sersync2 -d -r -o /usr/local/sersync/confxml.xml ＃設置開機自動運行腳本
:wq! #保存退出
6．添加腳本監控sersync是否正常運行
[root@rsync ~]# vim /script/check_sersync.sh #編輯，添加以下代碼
#!/bin/sh sersync="/usr/local/sersync/sersync2" confxml="/usr/local/sersync/confxml.xml" status=$(ps aux |grep 'sersync2'|grep -v 'grep'|wc -l) if [ $status -eq 0 ]; then $sersync -d -r -o $confxml & else exit 0; fi
:wq! #保存退出
[root@rsync ~]# chmod +x /script/check_sersync.sh #添加腳本執行權限 [root@rsync ~]# vim /etc/crontab #編輯，在最后添加下面一行 */5 * * * * root /script/check_sersync.sh > /dev/null 2>&1 #每隔5分鍾執行一次腳本 [root@rsync ~]# service crond reload #重新加載服務
7．測試sersync實時觸發rsync同步腳本是否正常運行
在源服務器192.168.21.129上創建文件夾test
[root@rsync ~]# mkdir /home/wwwroot/test
重新啟動源服務器：192.168.21.129
等系統啟動之后，查看兩台目標服務器192.168.21.127，192.168.21.128的/home/wwwroot/下是否有test文件夾
然后再在源服務器192.168.21.129創建文件夾test_new
mkdir /home/wwwroot/test_new
繼續查看兩台目標服務器192.168.21.127，192.168.21.128的/home/wwwroot下是否有test_new文件夾
如果以上測試都通過，說明sersync實時觸發rsync同步腳本運行正常。
六．附：sersync詳細參數
sersync開發者網站：http://blog.johntechinfo.com/sersyncguild
rsync參數
-v, --verbose 詳細模式輸出 -q, --quiet 精簡輸出模式 -c, --checksum 打開校驗開關，強制對文件傳輸進行校驗 -a, --archive 歸檔模式，表示以遞歸方式傳輸文件，並保持所有文件屬性，等於-rlptgoD -r, --recursive 對子目錄以遞歸模式處理 -R, --relative 使用相對路徑信息 -b, --backup 創建備份，也就是對於目的已經存在有同樣的文件名時，將老的文件重新命名為~filename。可以使用--suffix選項來指定不同的備份文件前綴。 --backup-dir 將備份文件(如~filename)存放在在目錄下。 -suffix=SUFFIX 定義備份文件前綴 -u, --update 僅僅進行更新，也就是跳過所有已經存在於DST，並且文件時間晚於要備份的文件。(不覆蓋更新的文件) -l, --links 保留軟鏈結 -L, --copy-links 想對待常規文件一樣處理軟鏈結 --copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結 --safe-links 忽略指向SRC路徑目錄樹以外的鏈結 -H, --hard-links 保留硬鏈結 -p, --perms 保持文件權限 -o, --owner 保持文件屬主信息 -g, --group 保持文件屬組信息 -D, --devices 保持設備文件信息 -t, --times 保持文件時間信息 -S, --sparse 對稀疏文件進行特殊處理以節省DST的空間 -n, --dry-run現實哪些文件將被傳輸 -W, --whole-file 拷貝文件，不進行增量檢測 -x, --one-file-system 不要跨越文件系統邊界 -B, --block-size=SIZE 檢驗算法使用的塊尺寸，默認是700字節 -e, --rsh=COMMAND 指定使用rsh、ssh方式進行數據同步 --rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息 -C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件，用來排除那些不希望傳輸的文件 --existing 僅僅更新那些已經存在於DST的文件，而不備份那些新創建的文件 --delete 刪除那些DST中SRC沒有的文件 --delete-excluded 同樣刪除接收端那些被該選項指定排除的文件 --delete-after 傳輸結束以后再刪除 --ignore-errors 及時出現IO錯誤也進行刪除 --max-delete=NUM 最多刪除NUM個文件 --partial 保留那些因故沒有完全傳輸的文件，以是加快隨后的再次傳輸 --force 強制刪除目錄，即使不為空 --numeric-ids 不將數字的用戶和組ID匹配為用戶名和組名 --timeout=TIME IP超時時間，單位為秒 -I, --ignore-times 不跳過那些有同樣的時間和長度的文件 --size-only 當決定是否要備份文件時，僅僅察看文件大小而不考慮文件時間 --modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口，默認為0 -T --temp-dir=DIR 在DIR中創建臨時文件 --compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份 -P 等同於 --partial --progress 顯示備份過程 -z, --compress 對備份的文件在傳輸時進行壓縮處理 --exclude=PATTERN 指定排除不需要傳輸的文件模式 --include=PATTERN 指定不排除而需要傳輸的文件模式 --exclude-from=FILE 排除FILE中指定模式的文件 --include-from=FILE 不排除FILE指定模式匹配的文件 --version 打印版本信息 --address 綁定到特定的地址 --config=FILE 指定其他的配置文件，不使用默認的rsyncd.conf文件 --port=PORT 指定其他的rsync服務端口 --blocking-io 對遠程shell使用阻塞IO -stats 給出某些文件的傳輸狀態 --progress 在傳輸時現實傳輸過程 --log-format=formAT 指定日志文件格式 --password-file=FILE 從FILE中得到密碼 --bwlimit=KBPS 限制I/O帶寬，KBytes per second -h, --help 顯示幫助信息