Linux日志切割方法[Logrotate、python、shell實現方式]
對於Linux系統安全來說，日志文件是極其重要的工具。不知為何，我發現很多運維同學的服務器上都運行着一些諸如每天切分Nginx日志之類的cron腳本，大家似乎遺忘了Logrotate，爭相發明自己的輪子，這真是讓人沮喪啊！就好比明明身邊躺着現成的性感美女，大家卻忙着自娛自樂，罪過！logrotate程序是一個日志文件管理工具。用於分割日志文件，刪除舊的日志文件，並創建新的日志文件，起到“轉儲”作用。可以節省磁盤空間。下面就對logrotate日志輪轉操作做一梳理記錄。
1、什么是輪轉？
日志輪循（輪轉）：日志輪轉，切割，備份，歸檔
2、為什么需要輪轉？
☆ 避免日志過大占滿/var/log的文件系統
☆ 方便日志查看 ☆ 將丟棄系統中最舊的日志文件，以節省空間 ☆ 日志輪轉的程序是logrotate
☆ logrotate本身不是系統守護進程，它是通過計划任務crond每天執行
3、安裝與配置logrotate
yum install logrotate -y
3.1、配置文件介紹
Linux系統默認安裝logrotate工具，它默認的配置文件在：
#/etc/logrotate.conf
#/etc/logrotate.d/
logrotate.conf 是主要的配置文件，logrotate.d 是一個目錄，該目錄里的所有文件都會被主動的讀入/etc/logrotate.conf中執行。另外，如果 /etc/logrotate.d/ 里面的文件中沒有設定一些細節，則會以/etc/logrotate.conf這個文件的設定來作為默認值。
logrotate是基於cron來運行的，其腳本是/etc/cron.daily/logrotate，日志輪轉是系統自動完成的。實際運行時，Logrotate會調用配置文件/etc/logrotate.conf。可以在/etc/logrotate.d目錄里放置自定義好的配置文件，用來覆蓋Logrotate的缺省值。
[root@huanqiu_web1 ~]# cat /etc/cron.daily/logrotate
#!/bin/sh
/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
注意：如果等不及cron自動執行日志輪轉，想手動強制切割日志，需要加 -f 參數；不過正式執行前最好通過Debug選項來驗證一下（-d參數），這對調試也很重要！
# /usr/sbin/logrotate -f /etc/logrotate.d/nginx
# /usr/sbin/logrotate -d -f /etc/logrotate.d/nginx
logrotate命令格式
logrotate [OPTION...] <configfile>
-d, --debug ：debug模式，測試配置文件是否有錯誤。
-f, --force ：強制轉儲文件。
-m, --mail=command ：壓縮日志后，發送日志到指定郵箱。
-s, --state=statefile ：使用指定的狀態文件。
-v, --verbose ：顯示轉儲過程。
根據日志切割設置進行操作，並顯示詳細信息
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.conf
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.d/php
根據日志切割設置進行執行，並顯示詳細信息,但是不進行具體操作，debug模式
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.conf
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx
查看各log文件的具體執行情況
[root@fangfull_web1 ~]# cat /var/lib/logrotate.status
3.2、logrotate配置文件
# vim /etc/logrotate.conf
1 # see "man logrotate" for details
2 # rotate log files weekly
3 weekly
4 # 以7天為一個周期(每周輪轉)syslog子配置文件：
5 # keep 4 weeks worth of backlogs
6 rotate 4
# 一次將存儲4個歸檔日志。對於第五個歸檔，時間最久的歸檔將被刪除
7 8
# create new (empty) log files after rotating old ones
9 create
# 當老的轉儲文件被歸檔后,創建一個新的空的轉儲文件重新記錄,權限和原來的轉儲文件權限一樣
10
11 # use date as a suffix of the rotated file
12 dateext
# 用日期來做輪轉之后的文件的后綴名
13
14 # uncomment this if you want your log files compressed
15 #compress
# 指定不壓縮轉儲文件,如需壓縮去掉注釋就可以了，主要是通過gzip壓縮
16
17 # RPM packages drop log rotation information into this directory
18 include /etc/logrotate.d
# 加載外部目錄
19
20 # no packages own wtmp and btmp -- we'll rotate them here
21 /var/log/wtmp {
22 monthly 表示此文件是每月輪轉，而不會用到上面的每周輪轉
23 create 0664 root utmp 輪轉之后創建新文件，權限是0664，屬於root用戶和utmp組
24 minsize 1M 文件大於1M，而且周期到了，才會輪轉
# size 1M 文件大小大於1M立馬輪轉，不管有沒有到周期
25 rotate 1 保留1份日志文件，每1個月備份一次日志文件
26 }
27
28 /var/log/btmp {
29 missingok 如果日志文件不存在，不報錯
30 monthly
31 create 0600 root utmp
32 rotate 1
33 }
34
35 # system-specific logs may be also be configured here.
3.3、syslog 子配置文件
[root@yunwei ~]# cat /etc/logrotate.d/syslog
//這個子配置文件，沒有指定的參數都會以默認方式輪轉
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/spooler
{
sharedscripts
不管有多少個文件待輪轉，prerotate 和 postrotate 代碼只執行一次
postrotate日志輪轉常見參數：
4、實踐：SSH服務日志輪轉
要求：
☆ 每天進行輪轉，保留5天的日志文件
☆ 日志文件大小大於5M進行輪轉，不管是否到輪轉周期
思路：
☆ 將ssh服務的日志單獨記錄 /var/log/ssh.log
☆ 修改logrotate程序的主配置文件或者在/etc/logrotate.d/目錄創建一個文件
輪轉完后執行postrotate 和 endscript 之間的shell代碼
/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
上面這一句話表示輪轉后對rsyslog的pid進行刷新（但pid其實不變)
endscript
}
思考：
為什么輪轉后需要對rsyslog的pid進行刷新呢？
3.4、日志輪轉常見參數
常用的指令解釋，這些指令都可以在man logrotate 中找得到。
daily 指定轉儲周期為每天
monthly 指定轉儲周期為每月
weekly <-- 每周輪轉一次(monthly)
rotate 4 <-- 同一個文件最多輪轉4次，4次之后就刪除該文件
create 0664 root utmp <-- 輪轉之后創建新文件，權限是0664，屬於root用戶和utmp組
dateext <-- 用日期來做輪轉之后的文件的后綴名
compress <-- 用gzip對輪轉后的日志進行壓縮
minsize 30K <-- 文件大於30K，而且周期到了，才會輪轉
size 30k <-- 文件必須大於30K才會輪轉，而且文件只要大於30K就會輪轉不管周期是否已到
missingok <-- 如果日志文件不存在，不報錯
notifempty <-- 如果日志文件是空的，不輪轉
delaycompress <-- 下一次輪轉的時候才壓縮
sharedscripts <-- 不管有多少文件待輪轉，prerotate和postrotate 代碼只執行一次
prerotate <-- 如果符合輪轉的條件
則在輪轉之前執行prerotate和endscript 之間的shell代碼
postrotate <-- 輪轉完后執行postrotate 和 endscript 之間的shell代碼
3.5、logrotate默認生效以及相關配置進行解釋
Logrotate是基於CRON來運行的，其腳本是/etc/cron.daily/logrotate，
實際運行時，Logrotate會調用配置文件/etc/logrotate.conf。
[root@test ~]# cat /etc/cron.daily/logrotate
#!/bin/sh
/usr/sbin/logrotate /etc/logrotate.conf
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
Logrotate是基於CRON運行的，所以這個時間是由CRON控制的，
具體可以查詢CRON的配置文件/etc/anacrontab（老版本的文件是/etc/crontab）
[root@test ~]# cat /etc/anacrontab
# /etc/anacrontab: configuration file for anacron
# See anacron(8) and anacrontab(5) for details.
SHELL=/bin/sh
PATH=/sbin:/bin:/usr/sbin:/usr/bin
MAILTO=root
# the maximal random delay added to the base delay of the jobs
RANDOM_DELAY=45
//這個是隨機的延遲時間，表示最大45分鍾
# the jobs will be started during the following hours only
START_HOURS_RANGE=3-22
//這個是開始時間
#period in days delay in minutes job-identifier command
1 5 cron.daily nice run-parts /etc/cron.daily
7 25 cron.weekly nice run-parts /etc/cron.weekly
@monthly 45 cron.monthly nice run-parts /etc/cron.monthly
第一個是Recurrence period
第二個是延遲時間
所以cron.daily會在3:22+(5,45)這個時間段執行，/etc/cron.daily是個文件夾
通過默認/etc/anacrontab文件配置，會發現logrotate自動切割日志文件的默認時間是凌晨3點多。
=====================================================================================
現在需要將切割時間調整到每天的晚上12點，即每天切割的日志是前一天的0-24點之間的內容。
操作如下：
[root@kevin ~]# mv /etc/anacrontab /etc/anacrontab.bak //取消日志自動輪轉的設置
[root@G6-bs02 logrotate.d]# cat nstc_nohup.out
/data/nstc/nohup.out {
rotate 30
dateext
daily
copytruncate
compress
notifempty
missingok
}
[root@G6-bs02 logrotate.d]# cat syslog
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/history
{
sharedscripts
compress
rotate 30
daily
dateext
postrotate
/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
endscript
}
結合crontab進行自定義的定時輪轉操作
[root@kevin ~]# crontab -l
#log logrotate
59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/syslog >/dev/null 2>&1
59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/nstc_nohup.out >/dev/null 2>&1
[root@G6-bs02 ~]# ll /data/nstc/nohup.out*
-rw------- 1 app app 33218 1月 25 09:43 /data/nstc/nohup.out
-rw------- 1 app app 67678 1月 25 23:59 /data/nstc/nohup.out-20180125.gz
4、相關案例
4.1、logrotate實現Nginx日志切割
[root@master-server ~]# vim /etc/logrotate.d/nginx
/usr/local/nginx/logs/*.log {
daily
rotate 7
missingok
notifempty
dateext
sharedscripts
postrotate
if [ -f /usr/local/nginx/logs/nginx.pid ]; then
kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
fi
endscript
}
kill -USR1 指的是Nginx平滑重啟
4.2、shell腳本實現Nginx日志切割
[root@bastion-IDC ~]# vim /usr/local/sbin/logrotate-nginx.sh
#!/bin/bash
#創建轉儲日志壓縮存放目錄
mkdir -p /data/nginx_logs/days
#手工對nginx日志進行切割轉換
/usr/sbin/logrotate -vf /etc/logrotate.d/nginx
#當前時間
time=$(date -d "yesterday" +"%Y-%m-%d")
#進入轉儲日志存放目錄
cd /data/nginx_logs/days
#對目錄中的轉儲日志文件的文件名進行統一轉換
for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")
do
mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)
done
#對轉儲的日志文件進行壓縮存放，並刪除原有轉儲的日志文件，只保存壓縮后的日志文件。以節約存儲空間
for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")
do
tar jcvf ${i}.bz2 ./${i}
rm -rf ./${i}
done
#只保留最近7天的壓縮轉儲日志文件
find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;
crontab定時執行
[root@bastion-IDC ~# crontab -e
#logrotate
0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>&1
手動執行腳本
[root@bastion-IDC ~]# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh
[root@bastion-IDC ~]# cd /data/nginx_logs/days
[root@bastion-IDC days]# lshuantest.access_log-2017-01-18.bz2
4.3、PHP日志切割
[root@huanqiu_web1 ~]# cat /etc/logrotate.d/php
/Data/logs/php/*log {
daily
rotate 365
missingok
notifempty
compress
dateext
sharedscripts
postrotate
if [ -f /Data/app/php5.6.26/var/run/php-fpm.pid ]; then
kill -USR1 `cat /Data/app/php5.6.26/var/run/php-fpm.pid`
fi
endscript
postrotate
/bin/chmod 644 /Data/logs/php/*gz
endscript
}
[root@huanqiu_web1 ~]# ll /Data/app/php5.6.26/var/run/php-fpm.pid
-rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
[root@huanqiu_web1 ~]# cd /Data/logs/php
[root@huanqiu_web1 php]# ll
total 25676
-rw-r--r-- 1 root root 0 Jun 1 2016 error.log
-rw-r--r-- 1 nobody nobody 182 Aug 30 2015 error.log-20150830.gz
-rw-r--r-- 1 nobody nobody 371 Sep 1 2015 error.log-20150901.gz
-rw-r--r-- 1 nobody nobody 315 Sep 7 2015 error.log-20150907.gz
.........
4.4、linux系統日志切割
[root@huanqiu_web1 ~]# cat /etc/logrotate.d/syslog
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/spooler
{
sharedscripts
postrotate
/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
endscript
}
[root@huanqiu_web1 ~]# ll /var/log/messages*
-rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
-rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20161225
-rw------- 1 root root 51800210 Jan 1 03:05 /var/log/messages-20170101
-rw------- 1 root root 51981366 Jan 8 03:36 /var/log/messages-20170108
-rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20170115
[root@huanqiu_web1 ~]# ll /var/log/cron*
-rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
-rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20161225
-rw------- 1 root root 2939305 Jan 1 03:06 /var/log/cron-20170101
-rw------- 1 root root 2951820 Jan 8 03:37 /var/log/cron-20170108
-rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20170115
[root@huanqiu_web1 ~]# ll /var/log/secure*
-rw------- 1 root root 275343 Jan 19 18:36 /var/log/secure
-rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20161225
-rw------- 1 root root 2772744 Jan 1 02:57 /var/log/secure-20170101
-rw------- 1 root root 1115543 Jan 8 03:26 /var/log/secure-20170108
-rw------- 1 root root 731599 Jan 15 03:40 /var/log/secure-20170115
[root@huanqiu_web1 ~]# ll /var/log/spooler*
-rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
-rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20161225
-rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20170101
-rw------- 1 root root 0 Jan 1 03:06 /var/log/spooler-20170108
-rw------- 1 root root 0 Jan 8 03:37 /var/log/spooler-20170115
4.5、Tomcat日志切割
[root@huanqiu_web1 ~]# cat /etc/logrotate.d/syslog
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/spooler
{
sharedscripts
postrotate
/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
endscript
}
[root@huanqiu_web1 ~]# ll /var/log/messages*
-rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
-rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20161225
-rw------- 1 root root 51800210 Jan 1 03:05 /var/log/messages-20170101
-rw------- 1 root root 51981366 Jan 8 03:36 /var/log/messages-20170108
-rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20170115
[root@huanqiu_web1 ~]# ll /var/log/cron*
-rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
-rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20161225
-rw------- 1 root root 2939305 Jan 1 03:06 /var/log/cron-20170101
-rw------- 1 root root 2951820 Jan 8 03:37 /var/log/cron-20170108
-rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20170115
[root@huanqiu_web1 ~]# ll /var/log/secure*
-rw------- 1 root root 275343 Jan 19 18:36 /var/log/secure
-rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20161225
-rw------- 1 root root 2772744 Jan 1 02:57 /var/log/secure-20170101
-rw------- 1 root root 1115543 Jan 8 03:26 /var/log/secure-20170108
-rw------- 1 root root 731599 Jan 15 03:40 /var/log/secure-20170115
[root@huanqiu_web1 ~]# ll /var/log/spooler*
-rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
-rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20161225
-rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20170101
-rw------- 1 root root 0 Jan 1 03:06 /var/log/spooler-20170108
-rw------- 1 root root 0 Jan 8 03:37 /var/log/spooler-20170115
4.6、使用python腳本進行jumpserver日志切割
[root@test-vm01 mnt]# cat log_rotate.py
#!/usr/bin/env python
import datetime,os,sys,shutil
log_path = '/opt/jumpserver/logs/'
log_file = 'jumpserver.log'
yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
try:
os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + yesterday.strftime('%m'))
except OSError,e:
print
print e
sys.exit()
shutil.move(log_path + log_file,log_path \
+ yesterday.strftime('%Y') + os.sep \
+ yesterday.strftime('%m') + os.sep \
+ log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
os.popen("sudo /opt/jumpserver/service.sh restart")
手動執行這個腳本：
[root@test-vm01 mnt]# chmod 755 log_rotate.py
[root@test-vm01 mnt]# python log_rotate.py
查看日志切割后的效果：
[root@test-vm01 mnt]# ls /opt/jumpserver/logs/
2017 jumpserver.log
[root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/
09
[root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/09/
jumpserver.log_20170916.log
然后做每日的定時切割任務：
[root@test-vm01 mnt]# crontab -e
30 1 * * * /usr/bin/python /mnt/log_rotate.py > /dev/null 2>&1
4.7、使用python腳本進行Nginx日志切割
[root@test-vm01 mnt]# vim log_rotate.py
#!/usr/bin/env python
import datetime,os,sys,shutil
log_path = '/app/nginx/logs/'
log_file = 'www_access.log'
yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
try:
os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + yesterday.strftime('%m'))
except OSError,e:
print
print e
sys.exit()
shutil.move(log_path + log_file,log_path \
+ yesterday.strftime('%Y') + os.sep \
+ yesterday.strftime('%m') + os.sep \
+ log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
os.popen("sudo kill -USR1 `cat /app/nginx/logs/nginx.pid`")
5、logrotate無法自動輪詢日志的解決辦法
起始原因：使用logrotate輪詢nginx日志，配置好之后，發現nginx日志連續兩天沒被切割，這是為什么呢？？然后開始檢查日志切割的配置文件是否有問題，檢查后確定配置文件一切正常。於是懷疑是logrotate預定的cron沒執行，查看了cron的日志，發現有一條"Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)"的日志，證明cron在04:02分時已經執行/etc/cron.daily目錄下的程序。接着查看/etc /cron.daily/logrotate（這是logrotate自動輪轉的腳本）的內容：
[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
#!/bin/sh
/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
有發現異常，配置好的日志輪轉操作都是由這個腳本完成的，一切運行正常，腳本應該就沒問題。 直接執行命令：
[root@huanqiu_test ~]# /usr/sbin/logrotate /etc/logrotate.conf
這些系統日志是正常輪詢了，但nginx日志卻還是沒輪詢,接着強行啟動記錄文件維護操作，縱使logrotate指令認為沒有需要，應該有可能是logroate認為nginx日志太小，不進行輪詢。 故需要強制輪詢，即在/etc/cron.daily/logrotate腳本中將 -t 參數替換成 -f 參數
[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
#!/bin/sh
/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
/usr/bin/logger -f logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
重啟下cron服務
[root@huanqiu_test ~]# /etc/init.d/crond restart
Stopping crond: [ OK ]Starting crond: [ OK ]