Linux 日志切割方法總結--Logrotate

本文轉載自查看原文 2020-04-02 21:38 1309 Linux基礎知識

一、Logrotate 使用方法

對於Linux系統安全來說，日志文件是極其重要的工具。logrotate程序是一個日志文件管理工具。用於分割日志文件，刪除舊的日志文件，並創建新的日志文件，起到“轉儲”作用。可以節省磁盤空間。下面就進行Logrotate日志輪轉的梳理總結。

1、配置文件介紹

Linux系統默認安裝logrotate工具，它默認的配置文件在：
/etc/logrotate.conf
/etc/logrotate.d/

注意：logrotate.conf 才主要的配置文件，logrotate.d 是一個目錄，該目錄里的所有文件都會被主動的讀入/etc/logrotate.conf中執行。
另外，如果 /etc/logrotate.d/ 里面的文件中沒有設定一些細節，則會以/etc/logrotate.conf這個文件的設定來作為默認值。

Logrotate是基於CRON來運行的，其腳本是/etc/cron.daily/logrotate，日志輪轉是系統自動完成的。
實際運行時，Logrotate會調用配置文件/etc/logrotate.conf。
可以在/etc/logrotate.d目錄里放置自定義好的配置文件，用來覆蓋Logrotate的缺省值。

[root@nginx01 ~]# cat /etc/cron.daily/logrotate
#!/bin/sh

/usr/sbin/logrotate -s /var/lib/logrotate/logrotate.status /etc/logrotate.conf
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
    /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
[root@nginx01 ~]#

如果等不及cron自動執行日志輪轉，想手動強制切割日志，需要加-f參數；不過正式執行前最好通過Debug選項來驗證一下（-d參數），這對調試也很重要　　

# /usr/sbin/logrotate -f /etc/logrotate.d/nginx
# /usr/sbin/logrotate -d -f /etc/logrotate.d/nginx

logrotate命令格式：
logrotate [OPTION...] <configfile>
-d, --debug ：debug模式，測試配置文件是否有錯誤。
-f, --force ：強制轉儲文件。
-m, --mail=command ：壓縮日志后，發送日志到指定郵箱。
-s, --state=statefile ：使用指定的狀態文件。
-v, --verbose ：顯示轉儲過程。　　

根據日志切割設置進行操作，並顯示詳細信息
[root@nginx01 ~]# /usr/sbin/logrotate -v /etc/logrotate.conf
[root@nginx01 ~]# /usr/sbin/logrotate -v /etc/logrotate.d/php

根據日志切割設置進行執行，並顯示詳細信息,但是不進行具體操作，debug模式
[root@nginx01 ~]# /usr/sbin/logrotate -d /etc/logrotate.conf
[root@nginx01 ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx

查看各log文件的具體執行情況
[root@fangfull_web1 ~]# cat /var/lib/logrotate.status　　

2、日志切割介紹

比如以系統日志/var/log/message做切割來簡單說明下：

第一次執行完rotate(輪轉)之后，原本的messages會變成messages.1，而且會制造一個空的messages給系統來儲存日志；
第二次執行之后，messages.1會變成messages.2，而messages會變成messages.1，又造成一個空的messages來儲存日志！
如果僅設定保留三個日志（即輪轉3次）的話，那么執行第三次時，則 messages.3這個檔案就會被刪除，並由后面的較新的保存日志所取代！也就是會保存最新的幾個日志。
日志究竟輪換幾次，這個是根據配置文件中的rotate參數來判定的。

看下logrotate.conf配置：
# cat /etc/logrotate.conf
# 底下的設定是 "logrotate 的默認值" ，如果別的文件設定了其他的值，
# 就會以其它文件的設定為主
weekly          //默認每一周執行一次rotate輪轉工作
rotate 4       //保留多少個日志文件(輪轉幾次).默認保留四個.就是指定日志文件刪除之前輪轉的次數，0 指沒有備份
create         //自動創建新的日志文件，新的日志文件具有和原來的文件相同的權限；因為日志被改名,因此要創建一個新的來繼續存儲之前的日志
dateext       //這個參數很重要！就是切割后的日志文件以當前日期為格式結尾，如xxx.log-20131216這樣,如果注釋掉,切割出來是按數字遞增,即前面說的 xxx.log-1這種格式
compress      //是否通過gzip壓縮轉儲以后的日志文件，如xxx.log-20131216.gz ；如果不需要壓縮，注釋掉就行

include /etc/logrotate.d
# 將 /etc/logrotate.d/ 目錄中的所有文件都加載進來

/var/log/wtmp {                 //僅針對 /var/log/wtmp 所設定的參數，日志文件的全路徑。
monthly                    //每月一次切割,取代默認的一周
minsize 1M              //文件大小超過 1M 后才會切割
create 0664 root utmp            //指定新建的日志文件權限以及所屬用戶和組
rotate 1                    //只保留一個日志.
}
# 這個 wtmp 可記錄用戶登錄系統及系統重啟的時間
# 因為有 minsize 的參數，因此不見得每個月一定會執行一次喔.要看文件大小。

由這個文件的設定可以知道/etc/logrotate.d其實就是由/etc/logrotate.conf 所規划出來的目錄，雖然可以將所有的配置都寫入/etc/logrotate.conf ，但是這樣一來這個文件就實在是太復雜了，尤其是當使用很多的服務在系統上面時，每個服務都要去修改/etc/logrotate.conf的設定也似乎不太合理了。
所以，如果獨立出來一個目錄，那么每個要切割日志的服務，就可以獨自成為一個文件，並且放置到 /etc/logrotate.d/ 當中

Logrotate中其他可配置參數，具體如下：

1）常用語句

compress                      //通過gzip 壓縮轉儲以后的日志
create mode owner group       //輪轉時指定創建新文件的屬性，如create 0777 nobody nobody（文件權限及用戶組）。一般常用create 與原文件權限屬性一致。
errors address                //專儲時的錯誤信息發送到指定的Email 地址  （可選使用）
daily                         //指定轉儲周期為每天
weekly                        //指定轉儲周期為每周
monthly                       //指定轉儲周期為每月
rotate count                  //指定日志文件刪除之前轉儲的次數，0 指沒有備份，5 指保留5 個備份
dateext                       //使用當期日期作為命名格式

2）可選語句

nocompress       //不做gzip壓縮處理
copytruncate     //用於還在打開中的日志文件，把當前日志備份並截斷；是先拷貝再清空的方式，拷貝和清空之間有一個時間差，可能會丟失部分日志數據。
nocopytruncate   //備份日志文件不過不截斷
nocreate         //不建立新的日志文件
delaycompress    //和compress 一起使用時，轉儲的日志文件到下一次轉儲時才壓縮
nodelaycompress  //覆蓋 delaycompress 選項，轉儲同時壓縮。
missingok        //如果日志丟失，不報錯繼續滾動下一個日志
ifempty          //即使日志文件為空文件也做輪轉，這個是logrotate的缺省選項。
notifempty       //當日志文件為空時，不進行輪轉
mail address     //把轉儲的日志文件發送到指定的E-mail 地址
nomail           //轉儲時不發送日志文件
olddir directory //轉儲后的日志文件放入指定的目錄，必須和當前日志文件在同一個文件系統
noolddir         //轉儲后的日志文件和當前日志文件放在同一個目錄下
sharedscripts    //運行postrotate腳本，作用是在所有日志都輪轉后統一執行一次腳本。如果沒有配置這個，那么每個日志輪轉后都會執行一次腳本
prerotate        //在logrotate轉儲之前需要執行的指令，例如修改文件的屬性等動作；必須獨立成行
postrotate       //在logrotate轉儲之后需要執行的指令，例如重新啟動 (kill -HUP) 某個服務！必須獨立成行
dateformat .%s   //配合dateext使用，緊跟在下一行出現，定義文件切割后的文件名，必須配合dateext使用，只支持 %Y %m %d %s 這四個參數
size(或minsize) log-size   //當日志文件到達指定的大小時才轉儲，log-size能指定bytes(缺省)及KB (sizek)或MB(sizem).
當日志文件 >= log-size 的時候就轉儲。 以下為合法格式：（其他格式的單位大小寫沒有試過）
size = 5 或 size 5 （>= 5 個字節就轉儲）
size = 100k 或 size 100k
size = 100M 或 size 100M

3、具體案例演示

1）NGINX日志切割配置

[root@master-server ~]# vim /etc/logrotate.d/nginx
/usr/local/nginx/logs/*.log {
daily
rotate 7
missingok
notifempty
dateext
sharedscripts
postrotate
    if [ -f /usr/local/nginx/logs/nginx.pid ]; then
        kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
    fi
endscript
}

一、實際工作NGINX使用的配置腳本

1）logrotate 日志分割配置

[root@bastion-IDC ~# vim /etc/logrotate.d/nginx
/data/nginx_logs/*.access_log        
{
nocompress                                   
daily                                  
copytruncate                                  
create                              
ifempty                                   
olddir /data/nginx_logs/days           
rotate 0                                        
}

2）日志分割腳本

[root@bastion-IDC ~# vim /usr/local/sbin/logrotate-nginx.sh
#!/bin/bash
#創建轉儲日志壓縮存放目錄
mkdir -p /data/nginx_logs/days
#手工對nginx日志進行切割轉換
/usr/sbin/logrotate -vf /etc/logrotate.d/nginx
#當前時間
time=$(date -d "yesterday" +"%Y-%m-%d")
#進入轉儲日志存放目錄
cd /data/nginx_logs/days
#對目錄中的轉儲日志文件的文件名進行統一轉換
for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")
do
mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)
done
#對轉儲的日志文件進行壓縮存放，並刪除原有轉儲的日志文件，只保存壓縮后的日志文件。以節約存儲空間
for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")
do
tar jcvf ${i}.bz2 ./${i}
rm -rf ./${i}
done
#只保留最近7天的壓縮轉儲日志文件
find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;

3）crontab 定時執行任務　　

[root@bastion-IDC ~# crontab -e
#logrotate
0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>&1

4）手工執行腳本，進行測試

[root@bastion-IDC ~# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh
[root@bastion-IDC ~# cd /data/nginx_logs/days
[root@bastion-IDC days# ls
huantest.access_log-2017-01-18.bz2

另外一例NGINX配置：

[root@nginx01 ~]# cat /etc/logrotate.d/nginx
/Data/logs/nginx/*/*log {
    daily
    rotate 365
    missingok
    notifempty
    compress
    dateext
    sharedscripts
    postrotate
    /etc/init.d/nginx reload
    endscript
}
 
[root@nginx01 ~]# ll /Data/logs/nginx/www.huanqiu.com/
..........
-rw-r--r-- 1 root root      1652 Jan  1 00:00 error.log-20180101.gz
-rw-r--r-- 1 root root      1289 Jan  2 00:00 error.log-20180102.gz
-rw-r--r-- 1 root root      1633 Jan  3 00:00 error.log-20180103.gz
-rw-r--r-- 1 root root      3239 Jan  4 00:00 error.log-20180104.gz

二、實際工作中PHP日志切割腳本

[root@nginx01 ~]# cat /etc/logrotate.d/php
/Data/logs/php/*log {
    daily
    rotate 365
    missingok
    notifempty
    compress
    dateext
    sharedscripts
    postrotate
        if [ -f /Data/app/php5.6.26/var/run/php-fpm.pid ]; then
            kill -USR1 `cat /Data/app/php5.6.26/var/run/php-fpm.pid`
        fi
    endscript
    postrotate
        /bin/chmod 644 /Data/logs/php/*gz
    endscript
}
 
[root@nginx01 ~]# ll /Data/app/php5.6.26/var/run/php-fpm.pid
-rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
 
[root@nginx01 ~]# cd /Data/logs/php
[root@huanqiu_web1 php]# ll
total 25676
-rw-r--r-- 1 root   root         0 Jun  1  2016 error.log
-rw-r--r-- 1 nobody nobody     182 Aug 30  2015 error.log-20150830.gz
-rw-r--r-- 1 nobody nobody     371 Sep  1  2015 error.log-20150901.gz
-rw-r--r-- 1 nobody nobody     315 Sep  7  2015 error.log-20150907.gz
.........
.........

三、系統日志分割示例　　

[root@nginx01 ~]# cat /etc/logrotate.d/syslog
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/spooler
{
    sharedscripts
    postrotate
    /bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
    endscript
}
 
[root@nginx01 ~]# ll /var/log/messages*
-rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
-rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20171225
-rw------- 1 root root 51800210 Jan  1 03:05 /var/log/messages-20180101
-rw------- 1 root root 51981366 Jan  8 03:36 /var/log/messages-20180108
-rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20180115
[root@nginx01 ~]# ll /var/log/cron*
-rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
-rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20171225
-rw------- 1 root root 2939305 Jan  1 03:06 /var/log/cron-20180101
-rw------- 1 root root 2951820 Jan  8 03:37 /var/log/cron-20180108
-rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20180115
[root@nginx01 ~]# ll /var/log/secure*
-rw------- 1 root root  275343 Jan 19 18:36 /var/log/secure
-rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20171225
-rw------- 1 root root 2772744 Jan  1 02:57 /var/log/secure-20180101
-rw------- 1 root root 1115543 Jan  8 03:26 /var/log/secure-20180108
-rw------- 1 root root  731599 Jan 15 03:40 /var/log/secure-20180115
[root@nginx01 ~]# ll /var/log/spooler*
-rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
-rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20171225
-rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20180101
-rw------- 1 root root 0 Jan  1 03:06 /var/log/spooler-20180108
-rw------- 1 root root 0 Jan  8 03:37 /var/log/spooler-20180115

二、嘗試解決logrotate無法自動輪詢日志的方案

1、現象說明：
使用logrotate輪詢nginx日志，配置好之后，發現nginx日志連續兩天沒被切割，這是為什么呢？？　　

2、然后開始檢查日志切割的配置文件是否有問題，檢查后確定配置文件一切正常。
於是懷疑是logrotate預定的cron沒執行，查看了cron的日志，發現有一條Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)這樣的日志，證明cron在04:02分時已經執行/etc/cron.daily目錄下的程序。
接着查看/etc /cron.daily/logrotate（這是logrotate自動輪轉的腳本）的內容：　　

[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
#!/bin/sh
  
/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
    /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0

沒有發現異常，配置好的日志輪轉操作都是由這個腳本完成的，一切運行正常，腳本應該就沒問題。
直接執行命令：
[root@nginx01 ~]# /usr/sbin/logrotate /etc/logrotate.conf
這些系統日志是正常輪詢了，但nginx日志卻還是沒輪詢

接着強行啟動記錄文件維護操作，縱使logrotate指令認為沒有需要，應該有可能是logroate認為nginx日志太小，不進行輪詢。
故需要強制輪詢，即在/etc/cron.daily/logrotate腳本中將 -t 參數替換成 -f 參數

[root@nginx01 ~]# cat /etc/cron.daily/logrotate
#!/bin/sh
  
/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
    /usr/bin/logger -f logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0

最后最后重啟下cron服務：
[root@huanqiu_test ~]# /etc/init.d/crond restart
Stopping crond: [ OK ]
Starting crond: [ OK ]　　

三、Python腳本實現日志切割

實例1：對jumpserver日志進行切割

[root@test-vm01 mnt]# cat log_rotate.py
#!/usr/bin/env python
   
import datetime,os,sys,shutil
   
log_path = '/opt/jumpserver/logs/'
log_file = 'jumpserver.log'
   
yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
   
try:
    os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \
                yesterday.strftime('%m'))
   
except OSError,e:
    print
    print e
    sys.exit()
   
   
shutil.move(log_path + log_file,log_path \
            + yesterday.strftime('%Y') + os.sep \
            + yesterday.strftime('%m') + os.sep \
            + log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
   
   
os.popen("sudo /opt/jumpserver/service.sh restart")
 
手動執行這個腳本：
[root@test-vm01 mnt]# chmod 755 log_rotate.py
[root@test-vm01 mnt]# python log_rotate.py
 
查看日志切割后的效果：
[root@test-vm01 mnt]# ls /opt/jumpserver/logs/
2017  jumpserver.log 
[root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/
09
[root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/09/
jumpserver.log_20170916.log
 
然后做每日的定時切割任務：
[root@test-vm01 mnt]# crontab -e
30 1 * * * /usr/bin/python /mnt/log_rotate.py > /dev/null 2>&1

實例2:對nginx日志進行切割　　

root@test-vm01 mnt]# vim log_rotate.py
#!/usr/bin/env python
   
import datetime,os,sys,shutil
   
log_path = '/app/nginx/logs/'
log_file = 'www_access.log'
   
yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
   
try:
    os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \
                yesterday.strftime('%m'))
   
except OSError,e:
    print
    print e
    sys.exit()
   
   
shutil.move(log_path + log_file,log_path \
            + yesterday.strftime('%Y') + os.sep \
            + yesterday.strftime('%m') + os.sep \
            + log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
   
   
os.popen("sudo kill -USR1 `cat /app/nginx/logs/nginx.pid`")
 
--------------------------------------------------------------------------------------
其他業務日志的切割腳本跟上面做法相同

四、shell腳本實現日志切割

[root@qd-vpc-op-consumer01 ~]# cat /app/script/log_rotate.sh
#!/bin/sh
 
function rotate() {
logs_path=$1
 
echo Rotating Log: $1
cp ${logs_path} ${logs_path}.$(date -d "yesterday" +"%Y%m%d")
> ${logs_path}
    rm -f ${logs_path}.$(date -d "7 days ago" +"%Y%m%d")
}
 
for i in $*
do
        rotate $i
done
 
--------------------------------------------------------------------------------------------------------------
每天定時切割日志的任務制定（比如對python的一個業務/data/log/xcspam/下的日志進行切割，0K的日志不進行切割）：
[root@qd-vpc-op-consumer01 ~]# crontab -e
#xcspam 日志切割
30 0 * * * find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
 
手動執行切割：
[root@qd-vpc-op-consumer01 ~]# find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
 
切割后的日志效果：
[root@qd-vpc-op-consumer01 ~]# ls /data/log/xcspam/
xcspam_error.log  xcspam_error.log-20170926
 
--------------------------------------------------------------------------------------------------------------
比如對maridb日志進行切割
[root@qd-vpc-op-consumer01 ~]# crontab -e
#xcspam 日志切割
30 0 * * * find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
 
[root@qd-vpc-op-consumer01 ~]# find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
[root@qd-vpc-op-consumer01 ~]# ll /var/log/mariadb/
總用量 8
-rw-r-----. 1 mysql mysql    0 9月  17 20:31 mariadb.log
-rw-r-----. 1 root  root  4532 9月  17 20:31 mariadb.log.20170916
--------------------------------------------------------------------------------------------------------------

免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。

猜您在找 Logrotate日志切割處理方法總結 Linux日志切割方法[Logrotate、python、shell實現方式] 日志切割之Logrotate 日志切割之logrotate Linux日志切割logrotate服務配置 linux日志切割工具 logrotate 日志切割方法小結 [Logrotate、python、shell腳本實現 ] linux系統日志自動切割工具----logrotate Linux日志切割神器logrotate原理介紹和配置詳解使用Linux自帶的命令logrotate對Nginx日志進行切割