Linux 之 rsyslog 系統日志轉發


一、rsyslog 介紹

  ryslog 是一個快速處理收集系統日志的程序,提供了高性能、安全功能和模塊化設計。rsyslog 是syslog 的升級版,它將多種來源輸入輸出轉換結果到目的地,據官網介紹,現在可以處理100萬條信息。

  特性:1.多線程

     2.支持加密協議:ssl,tls,relp

     3.mysql、oracle、postgreSQL

     4.等等..

 

二、實踐部署()

2.1 環境圖

  

2.2.rsyslog server上部署操作

安裝rsyslog 程序(rsyslog默認已經在各發行版安裝,如果系統中沒有的話,可以用yum 進行安裝,如下:)

[root@opm ~]# yum install rsyslog -y

編輯rsyslog配置文件,路徑 /etc/rsyslog.conf,修改前最好先備份一份,修改后的文件內容如下

[root@opm log]# grep -v "^#" /etc/rsyslog.conf | grep -v "^$"
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imjournal # provides access to the systemd journal
$ModLoad immark  # provides --MARK-- message capability
$ModLoad imudp
$UDPServerRun 514
$ModLoad imtcp
$InputTCPServerRun 514
$WorkDirectory /var/lib/rsyslog
$AllowedSender tcp, 192.168.30.0/24
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$template Remote,"/data/log/%fromhost-ip%/%fromhost-ip%_%$YEAR%-%$MONTH%-%$DAY%.log"
:fromhost-ip, !isequal, "127.0.0.1" ?Remote
$IncludeConfig /etc/rsyslog.d/*.conf
$OmitLocalLogging on
$IMJournalStateFile imjournal.state
*.info;mail.none;authpriv.none;cron.none                /data/log/messages
authpriv.*                                              /var/log/secure
mail.*                                                  -/var/log/maillog
cron.*                                                  /var/log/cron
*.emerg                                                 :omusrmsg:*
uucp,news.crit                                          /var/log/spooler
local7.*                                                /var/log/boot.log
View Code

 

a.$AllowedSender tcp, 192.168.30.0/24 允許 30.0網段內的主機以tcp協議來傳輸

b.$template Remote,"/data/log/%fromhost-ip%/%fromhost-ip%_%$YEAR%-%$MONTH%-%$DAY%.log"  定義模板,接受日志文件路徑,區分了不同主機的日志

c.:fromhost-ip, !isequal, "127.0.0.1" ?Remote 過濾server 本機的日志。

d.$InputTCPServerRun 514 開啟tcp,tcp和udp 可以共存的

 

創建日志目錄,盡量選擇系統內比較大的區域創建,因為考慮到要存放很多服務器的日志文件。

[root@opm ~]# mkdir -pv /data/log

修改完成無誤后,重啟rsyslog服務,並查看監聽端口,514 是否是tcp協議

[root@opm ~]# systemctl restart rsyslog
[root@opm ~]# netstat -aulntp | grep rsyslog
tcp        0      0 0.0.0.0:514             0.0.0.0:*               LISTEN      20228/rsyslogd      
tcp6       0      0 :::514                  :::*                    LISTEN      20228/rsyslogd      
udp        0      0 0.0.0.0:514             0.0.0.0:*                           20228/rsyslogd      
udp6       0      0 :::514                  :::*                                20228/rsyslogd      

2.3 客戶端上操作:

node1 上進行配置

打開配置文件,老樣子,先備份下在進行修改 /etc/rsyslog.conf,修改完記得要重啟程序

[root@node1 ~]# grep -v "^$" /etc/rsyslog.conf | grep -v "^#"
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imjournal # provides access to the systemd journal
$WorkDirectory /var/lib/rsyslog
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$template myFormat,"%timestamp% %fromhost-ip% %msg%\n"
$ActionFileDefaultTemplate myFormat
$IncludeConfig /etc/rsyslog.d/*.conf
$OmitLocalLogging on
$IMJournalStateFile imjournal.state
*.info;mail.none;authpriv.none;cron.none                @@192.168.30.55
authpriv.*                                              /var/log/secure
mail.*                                                  -/var/log/maillog
cron.*                                                  /var/log/cron
*.emerg                                                 :omusrmsg:*
uucp,news.crit                                          /var/log/spooler
local7.*                                                /var/log/boot.log
View Code

ceph1 上進行配置,重啟rsyslog程序

打開配置文件/etc/rsyslog.conf

[root@ceph1 ~]# grep -v "^$" /etc/rsyslog.conf | grep -v "^#"
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imjournal # provides access to the systemd journal
$WorkDirectory /var/lib/rsyslog
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$IncludeConfig /etc/rsyslog.d/*.conf
$OmitLocalLogging on
$IMJournalStateFile imjournal.state
*.info;mail.none;authpriv.none;cron.none                @@192.168.30.55
authpriv.*                                              /var/log/secure
mail.*                                                  -/var/log/maillog
cron.*                                                  /var/log/cron
*.emerg                                                 :omusrmsg:*
uucp,news.crit                                          /var/log/spooler
local7.*                                                /var/log/boot.log
$template myFormat,"%timestamp% %fromhost-ip%%msg%\n"
$ActionFileDefaultTemplate myFormat
View Code

最后重啟客戶端上的rsyslog程序

 

2.4 驗證,在服務器上進到 /data/log 目錄下,進行查看,會發現以下類似的文件結構

[root@opm ~]# tree /data/log/
/data/log/
├── 192.168.30.56 └── 192.168.30.56_2016-05-05.log
├── 192.168.30.57 └── 192.168.30.57_2016-05-05.log
└── messages

2 directories, 3 files

messages:server 端的系統日志
文件夾192.168.30.56: node1 客戶端的日志
文件夾192.168.30.57: ceph1 客戶端的日志

我們這里只查看node1 的系統日志吧。server 上進行操作

[root@opm ~]# tail -f /data/log/192.168.30.56/192.168.30.56_2016-05-05.log 
May  5 20:50:45 node1 rsyslogd: [origin software="rsyslogd" swVersion="7.4.7" x-pid="9296" x-info="http://www.rsyslog.com"] exiting on signal 15.
May  5 20:50:45 node1 rsyslogd: [origin software="rsyslogd" swVersion="7.4.7" x-pid="9334" x-info="http://www.rsyslog.com"] start
May  5 20:50:45 node1 systemd: Stopping System Logging Service...
May  5 20:50:45 node1 systemd: Starting System Logging Service...
May  5 20:50:45 node1 systemd: Started System Logging Service.

這里還可以在node1上在命令行里輸入 logger “this is test ” 發送消息,server上進行查看下

[root@opm ~]# tail -1f /data/log/192.168.30.56/192.168.30.56_2016-05-05.log 
May  5 20:52:46 node1 root: this is test

 

2.5.如果驗證失敗的話,先檢查selinux 是否關閉。后將udp 514 端口和tcp 514端口允許30網段訪問即可,或者關閉iptables 服務。另外說明centos7上 默認防火牆是firewalld。該操作在每台機器上進行。

 

三、收集系統其它服務日志,在客戶端node1 上操作,示例以openstack-nova 服務的日志為例:

3.1.先修改配置文件 /etc/rsyslog.conf,完整內容如下:

[root@node1 ~]# egrep -v '^#|^$' /etc/rsyslog.conf
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imjournal # provides access to the systemd journal
$ModLoad immark  # provides --MARK-- message capability
$WorkDirectory /var/lib/rsyslog
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$IncludeConfig /etc/rsyslog.d/*.conf
$OmitLocalLogging on
$IMJournalStateFile imjournal.state
*.info;mail.none;authpriv.none;cron.none                @@192.168.30.67
authpriv.*                                              /var/log/secure
mail.*                                                  -/var/log/maillog
cron.*                                                  /var/log/cron
*.emerg                                                 :omusrmsg:*
uucp,news.crit                                          /var/log/spooler
local7.*                                                /var/log/boot.log
module(load="imfile" PollingInterval="5")
$InputFileName /var/log/nova/nova-compute.log
$InputFileTag nova-info:
$InputFileStateFile state-nova-info
$InputRunFileMonitor
View Code

其實只添加了后5行的內容,對每項簡單解釋下

module(load="imfile" PollingInterval="5")        加載imfile 模塊,並5秒刷新一次
$InputFileName /var/log/nova/nova-compute.log     要監控的日志文件路徑 
$InputFileTag nova-info:                  定義文件標簽 ,注意最后是冒號:
$InputFileStateFile state-nova-info            定義狀態文件
$InputRunFileMonitor                  激活讀取,可以設置多組日志讀取,每組結束時設置本參數             

 3.2.修改完成后,重啟客戶端的rsyslog服務

[root@node1 ~]# systemctl restart rsyslog

3.3 驗證,在rsyslog服務器上查看日志,如下圖

 

四、總結

  以前不知道這個,總以為日志轉發很難,現在感覺rsyslog還是挺簡單的。不過簡單是因為我們只是用了最簡單方法,而且功能也是只用了系統日志的轉發,后續會嘗試如何記錄轉發其它服務的日志,比如mysql、zabbix、以及nova 服務的日志。這些才是最終的目的。

 

本文章屬於原創,轉載引用時請注明出處

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM