用rsync對網站進行鏡像備份 本文出自:http://xfocus.org/ 作者:inburst[inburst@263.net] (2001-09-08 13:05:00) 對系統管理員來說，平時的工作重心應該集中在維護系統正常運轉，能夠正常提供服務上，這裡往往牽涉到一個 數據備份的問題，在我所了解 的情況中，有80%的系統管理員不是太關心自己服務器的安全性，但往往對備分鏡像的技術相當感興趣，但由商 業產品的軟硬件價格都相當高 昂，因此往往會選擇自由軟件。這裡準備介紹的rsync就是這樣的軟件，它可以滿足絕大多數要求不是特別高的備 份需求。 一、特性簡介 rsync是類unix系統下的數據鏡像備份工具，從軟件的命名上就可以看出來了remote sync。它的特性如下： 1、可以鏡像保存整個目錄樹和文件系統。 2、可以很容易做到保持原來文件的權限、時間、軟硬鏈接等等。 3、無須特殊權限即可安裝。 4、優化的流程，文件傳輸效率高。 5、可以使用rcp、ssh等方式來傳輸文件，當然也可以通過直接的socket連接。 6、支持匿名傳輸。 二、使用方法 rsync的使用方法很簡單，我就舉自己使用的例子來說明吧。 1、系統環境 rsync支持大多數的類unix系統，無論是Linux、Solaris還是BSD上都經過了良好的測試。我的系統環境為： server: FreeBSD 4.3 ip: 192.168.168.52 client: Solaris 8 ip: 192.168.168.137 rsync 版本 2.4.6(可以從http://rsync.samba.org/rsync/獲得最新版本) 2、配置server端的/etc/rsyncd.conf文件 bash-2.03# cat /etc/rsyncd.conf uid = nobody gid = nobody use chroot = no # 不使用chroot max connections = 4 # 最大連接數為4 pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log # 日志記錄文件 [inburst] # 這裡是認証的模塊名，在client端需要指定 path = /home/inburst/python/ # 需要做鏡像的目錄 comment = BACKUP CLIENT IS SOLARIS 8 E250 ignore errors # 可以忽略一些無關的IO錯誤 read only = yes # 只讀 list = no # 不允許列文件 auth users = inburst # 認証的用戶名，如果沒有這行，則表明是匿名 secrets file = /etc/inburst.pas # 認証文件名 [web] path = /usr/local/apache/htdocs/ comment = inburst.org web server 3、在server端生成一個密碼文件/etc/inburst.pas bash-2.03# cat /etc/inburst.pas inburst:hack 出安全目的，文件的屬性必需是只有屬主可讀。 4、在server端將rsync以守護進程形式啟動 bash-2.03# rsync --daemon 如果要在啟動時把服務起來，有幾種不同的方法，比如： a、加入inetd.conf 編輯/etc/services，加入rsync 873/tcp，指定rsync的服務端口是873 編加/etc/inetd.conf，加入rsync stream tcp nowait root /bin/rsync rsync --daemon b、加入rc.local 在各種操作系統中，rc文件存放位置不盡相同，可以修改使系統啟動時rsync --daemon加載進去。 5、從client端進行測試 下面這個命令行中-vzrtopg裡的v是verbose，z是壓縮，r是recursive，topg都是保持文件原有屬性如屬主、時間 的參數。--progress是指顯示 出詳細的進度情況，--delete是指如果服務器端刪除了這一文件，那客戶端也相應把文件刪除，保持真正的一致。 面的inburst@ip中， inburst是指定密碼文件中的用戶名，之的::inburst這一inburst是模塊名，也就是在/etc/rsyncd.conf中自定義 的名稱。最的/tmp是備份 到本地的目錄名。 在這裡面，還可以用-e ssh的參數建立起加密的連接。可以用--password-file=/password/path/file來指定密碼文 件，這樣就可以在腳本中使 用而無需交互式地輸入驗証密碼了，這裡需要注意的是這份密碼文件權限屬性要設得只有屬主可讀。 bash-2.03# rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /tmp/ Password: receiving file list ... done ./ 1 785 (100%) 1.py 4086 (100%) 2.py 10680 (100%) a 0 (100%) ip 3956 (100%) ./ wrote 190 bytes read 5499 bytes 758.53 bytes/sec total size is 19507 speedup is 3.43 6、創建更新腳本 如果有比較復雜的工作，利用一些常見的腳本語言可以有幫助。比如： bash-2.03# cat /usr/local/bin/rsync.sh #!/bin/sh DATE=`date %w` rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass > /var/log/rsync.$DATE 7、修改/etc/crontab做好定時 比如: bash-2.03# echo "15 4 * * 6 root rsync.sh">>/etc/crontab 三、FAQ Q：如何通過ssh進行rsync，而且無須輸入密碼？ A：可以通過以下幾個步驟 1. 通過ssh-keygen在server A上建立SSH keys，不要指定密碼，你會在~/.ssh下看到identity和identity.pub文件 2. 在server B上的home目錄建立子目錄.ssh 3. 將A的identity.pub拷貝到server B上 4. 將identity.pub加到~[user b]/.ssh/authorized_keys 5. 是server A上的A用戶，可通過下面命令以用戶B ssh到server B上了 e.g. ssh -l userB serverB 這樣就使server A上的用戶A就可以ssh以用戶B的身份無需密碼登陸到server B上了。 Q：如何通過在不危害安全的情況下通過防火牆使用rsync? A：解答如下： 這通常有兩種情況，一種是服務器在防火牆內，一種是服務器在防火牆外。 無論哪種情況，通常還是使用ssh，這時最好新建一個備份用戶，並且配置sshd僅允許這個用戶通過RSA認証方式進入。 如果服務器在防火牆內，則最好限定客戶端的IP地址，拒絕其它所有連接。 如果客戶機在防火牆內，則可以簡單允許防火牆打開TCP端口22的ssh外發連接就ok了。 Q：我能將更改過或者刪除的文件也備份上來嗎？ A：當然可以： 你可以使用如：rsync -other -options -backupdir = ./backup-2000-2-13 ...這樣的命令來實現。 這樣如果源文件:/path/to/some/file.c改變了，那舊的文件就會被移到./backup-2000-2-13/path/to/some/file.c， 這裡這個目錄需要自己 手工建立起來 Q：我需要在防火牆上開放哪些端口以適應rsync？ A：視情況而定 rsync可以直接通過873端口的tcp連接傳文件，也可以通過22端口的ssh來進行文件傳遞，但你也可以通過下列命令改變它的端口： rsync --port 8730 otherhost:: 或者 rsync -e 'ssh -p 2002' otherhost: Q：我如何通過rsync只復制目錄結構，忽略掉文件呢？ A：rsync -av --include '*/' --exclude '*' source-dir dest-dir Q：為什我總會出現"Read-only file system"的錯誤呢？ A：看看是否忘了設"read only = no"了 Q：為什我會出現'@ERROR: invalid gid'的錯誤呢？ A：rsync使用時默認是用uid=nobody;gid=nobody來運行的，如果你的系統不存在nobody組的話，就會出現這樣的錯誤，可以試試gid = nogroup或者其它 Q：綁定端口873失敗是怎回事？ A：如果你不是以root權限運行這一守護進程的話，因為1024端口以下是特權端口，會出現這樣的錯誤。你可以用--port參數來改變。 Q：為什我認証失敗？ A：從你的命令行看來： 你用的是： > bash$ rsync -a 144.16.251.213::test test > Password: > @ERROR: auth failed on module test > > I dont understand this. Can somebody explain as to how to acomplish this. > All suggestions are welcome. 應該是沒有以你的用戶名登陸導致的問題，試試rsync -a max@144.16.251.213::test test 四、一些可借鑒的腳本 這裡這些腳本都是rsync網站上的例子： 1、每隔七天將數據往中心服務器做增量備份 #!/bin/sh # This script does personal backups to a rsync backup server. You will end up # with a 7 day rotating incremental backup. The incrementals will go # into subdirectories named after the day of the week, and the current # full backup goes into a directory called "current" # tridge@linuxcare.com # directory to backup BDIR=/home/$USER # excludes file - this contains a wildcard pattern per line of files to exclude EXCLUDES=$HOME/cron/excludes # the name of the backup machine BSERVER=owl # your password on the backup server export RSYNC_PASSWORD=XXXXXX ######################################################################## BACKUPDIR=`date %A` OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES --delete --backup --backup-dir=/$BACKUPDIR -a" export PATH=$PATH:/bin:/usr/bin:/usr/local/bin # the following line clears the last weeks incremental directory [ -d $HOME/emptydir ] || mkdir $HOME/emptydir rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/ rmdir $HOME/emptydir # now the actual transfer rsync $OPTS $BDIR $BSERVER::$USER/current 2、備份至一個空閑的硬盤 #!/bin/sh export PATH=/usr/local/bin:/usr/bin:/bin LIST="rootfs usr data data2" for d in $LIST; do mount /backup/$d rsync -ax --exclude fstab --delete /$d/ /backup/$d/ umount /backup/$d done DAY=`date " %A"` rsync -a --delete /usr/local/apache /data2/backups/$DAY rsync -a --delete /data/solid /data2/backups/$DAY 3、對vger.rutgers.edu的cvs樹進行鏡像 #!/bin/bash cd /var/www/cvs/vger/ PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin RUN=`lps x | grep rsync | grep -v grep | wc -l` if [ "$RUN" -gt 0 ]; then echo already running exit 1 fi rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog sum1=`sum $HOME/ChangeLog` sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog` if [ "$sum1" = "$sum2" ]; then echo nothing to do exit 0 fi rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/ exit 0 4、利用find的一種巧妙方式 rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/ 可以用這種方法列出需要備份的文件列表這種方法似乎比較少人用到。 五、參考資料： 1、http://rsync.samba.org/ 2、rsync examples 3、rsync FAQ 學習,從分享開始^^ 發表人 - ethan 於 2004/03/01 10:45:38