python實時處理log文件腳本


這個Python腳本是用來對實時文件的內容監控,比如 Error 或者 time out 字段都可以進行自定義;算是我的第一個真正的Python腳本,自己感覺還是比較臃腫,不過打算放到blog上記錄一下(還是初學者,大神們勿噴哈),真心希望博友們能夠再指點一下(現在記錄每次的文件大小值是輸出到了一個文件中,並且里面還嵌套了有shell命令,這些我認為都是可以優化掉的吧,只是現在我還不知道怎么做);告警是基於zabbix,自定義的模板是120s執行一次

  

#!/usr/local/bin/python3.5
###Destription: 實時讀取log信息
###Author:      Danny Deng
###Datetime:    2016-11-17
import re,time,subprocess,os,linecache
###############定義log文件
file_name = "/var/log/mongodb/mongodb.log"
file_number = "/usr/local/zabbix_agent/number.txt"
j = int(0)
seek = int(0)
###############判斷文件是否存在---判斷number是否存在---判斷number size 與 filesize
###############定義一個函數,遍歷文件
def readline():
###############if判斷 seek是否大於0,大於則賦值,否則初始為0
    while True:
###############定義文件,根據seek值進行每行讀取,每次tell賦值給seek
        with open(file_name,'r') as f:
            global seek
            #seek = seek
            f.seek(seek)
            data = f.readline()
            if  data:
                seek = f.tell()
                yield data
            else:
###############Python變量轉換為shell變量
                global file_number
                os.environ['seek'] = str(seek)
                os.environ['file_number'] = str(file_number)
###############記錄上一次執行后的seek值,下次執行直接讀取
                os.system('echo $seek > $file_number')
                os.system('chown zabbix.zabbix $file_number')
                return
###############定義函數,find特定字符串從每行數據中
def func_for():
    j = int(0)
    for i in readline():
        f_find = re.findall(r"error", i,flags=re.IGNORECASE)
        if "error" in f_find:
            j += 1
###############沒有輸出0,有值輸出出現error匹配到的次數值
    try:
        print(j)
    except NameError:
        print(int("0"))
###############判斷文件是否存在
if os.path.isfile(file_name):
###############判斷存儲seek的文件是否存在
    if os.path.isfile(file_number):
###############存在時,讀取其seek值
        seek_number = int(linecache.getline(file_number, 1))
###############如果有值判斷seek值與現在文件大小值,大於說明log文件已重新生成,重置seek值為0
        if os.path.getsize(file_name) >= seek_number and seek_number > 0:
            seek = seek_number
            func_for()
        else:
            seek = int(0)
            func_for()
###############如果存儲seek值的文件不存在,新建並出示seek值為0
    else:
        os.environ['file_number'] = str(file_number)
        os.system('echo 0 > $file_number')
        os.system('chown zabbix.zabbix $file_number')
        func_for()
###############文件不存在 報錯
else:
    print("Error")
    quit()

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM