Nginx訪問日志匹配 re.compile
#re.compile 規則解釋,改規則必須從前面開始匹配一個一個寫到后面,前面一個修改后面全部錯誤。特殊標准結束為符號為空或者雙引號: 改符號開始 從“開始匹配無限個到”碰到“結束 "(?P<request>[^"]*)
例二:
匹配顏色對應表:
口訣: 123,123,123,1
123分別用顏色表示。
{"level":"info","message":"Sendno: 1974497337","timestamp":"2017-01-18 08:00:08:545"}
reg = re.compile('\{"level":(?P<remote_ip>[^.]*),"message":(?P<messagea>[^.]*),"timestamp":(?P<time>[^.]*)\}')
####################下面這條是匹配字符更為復雜的######################################
a='{"level":"info","message":"::ffff:10.42.99.232 - - [18/Jan/2017:00:00:05 +0000] \"POST /api/v1/push HTTP/1.1\" 200 84 \"-\" \"-\"\n","timestamp":"2017-01-18 08:00:05:998"}'
reg = re.compile('\{"level":"(?P<remote_ip>[^.]*)","message":"(?P<messagea>.*?)","timestamp":"(?P<time>[^.]*)"}', re.S)
reg = re.compile('\{(?P<remote_ip>[^,]*),(?P<messagea>[^,]*),(?P<time>[^,]*)') #通用無腦匹配型
import re line ='192.168.0.1 25/Oct/2012:14:46:34 "GET /api HTTP/1.1" 200 44 "http://abc.com/search" "Mozilla/5.0"' reg = re.compile('^(?P<remote_ip>[^ ]*) (?P<date>[^ ]*) "(?P<request>[^"]*)" (?P<status>[^ ]*) (?P<size>[^ ]*) "(?P<referrer>[^"]*)" "(?P<user_agent>[^"]*)"') regMatch = reg.match(line) linebits = regMatch.groupdict() print linebits for k, v in linebits.items() : print k+": "+v
python 正則 re 模塊常用方法
re.match #從頭匹配
re.search #全局匹配第一個符合的字符串
import re val="1-2*((60-30+(-40.0/5)*(9-2*5/3+7/3*99/4*2998+10*568/14))-(-4*3)/(16-3*2)" def f1(x): b=re.search("([+-/*])*",x) print (b.groups(),b.span(),b) #b.groups 取出匹配到值,b.span #取出匹配到的值的位置。 #while True: b = re.split("\(([^()]+)\)",val,1) if len(b) == 3: before,cotent,after=b r = f1(cotent) new_r = before+str(r)+after val=new_r 結果:('-',) (0, 1) <_sre.SRE_Match object; span=(0, 1), match='-'>
re.findall #匹配全部,放到列表
re.finditer #找到匹配的所有子串,並把它們作為一個迭代器返回。這個匹配是從左到右有序地返回。如果無匹配,返回空列表。用for 循環出匹配到值。
re.split #匹配到到值進行分割。
val = "hello alex bcd" re.split("(a\w+)",val) #匹配全部字符串,並且包括a\w+匹配到到值內經常括號分組了。 re.split("a\w+",val) #沒有括號到,只根據匹配值進行分成2部分。
re.sub #re.sub 函數進行以正則表達式為基礎的替換工作。
f=re.sub("\d+","112",'dsdfgda3434fgfg') print (f) dsdfgda112fgfg
print (r.group()) #打印正則匹配的全部東西
print (r.groups()) #打印正則分組里面的東西,()括號里面的單個。
print(r.groupdict()) #把匹配到的數據放到一個字典里面 (?P<key1>)括號里面加上KEY
r=re.match("(?P<n1>h)(\w+)") print(r.groupdict()) ['n1':'h']
元字符 | 說明 |
---|---|
. | 代表任意字符 |
\ | |
[ ] | 匹配內部的任一字符或子表達式 |
[^] | 對字符集和取非 |
- | 定義一個區間 |
\ | 對下一字符取非(通常是普通變特殊,特殊變普通) |
* | 匹配前面的字符或者子表達式0次或多次 |
*? | 惰性匹配上一個 |
+ | 匹配前一個字符或子表達式一次或多次 |
+? | 惰性匹配上一個 |
? | 匹配前一個字符或子表達式0次或1次重復 |
{n} | 匹配前一個字符或子表達式 |
{m,n} | 匹配前一個字符或子表達式至少m次至多n次 |
{n,} | 匹配前一個字符或者子表達式至少n次 |
{n,}? | 前一個的惰性匹配 |
^ | 匹配字符串的開頭 |
\A | 匹配字符串開頭 |
$ | 匹配字符串結束 |
[\b] | 退格字符 |
\c | 匹配一個控制字符 |
\d | 匹配任意數字 |
\D | 匹配數字以外的字符 |
\t | 匹配制表符 |
\w | 匹配任意數字字母下划線 |
\W | 不匹配數字字母下划線 |
中級篇介紹子表達式,向前向后查找,回溯引用 鏈接:http://www.cnblogs.com/chuxiuhong/p/5907484.html
一、校驗數字的表達式
-
數字:^[0-9]*$
-
n位的數字:^\d{n}$
-
至少n位的數字:^\d{n,}$
-
m-n位的數字:^\d{m,n}$
-
零和非零開頭的數字:^(0|[1-9][0-9]*)$
-
非零開頭的最多帶兩位小數的數字:^([1-9][0-9]*)+(.[0-9]{1,2})?$
-
帶1-2位小數的正數或負數:^(\-)?\d+(\.\d{1,2})?$
-
正數、負數、和小數:^(\-|\+)?\d+(\.\d+)?$
-
有兩位小數的正實數:^[0-9]+(.[0-9]{2})?$
-
有1~3位小數的正實數:^[0-9]+(.[0-9]{1,3})?$
-
非零的正整數:^[1-9]\d*$ 或 ^([1-9][0-9]*){1,3}$ 或 ^\+?[1-9][0-9]*$
-
非零的負整數:^\-[1-9][]0-9″*$ 或 ^-[1-9]\d*$
-
非負整數:^\d+$ 或 ^[1-9]\d*|0$
-
非正整數:^-[1-9]\d*|0$ 或 ^((-\d+)|(0+))$
-
非負浮點數:^\d+(\.\d+)?$ 或 ^[1-9]\d*\.\d*|0\.\d*[1-9]\d*|0?\.0+|0$
-
非正浮點數:^((-\d+(\.\d+)?)|(0+(\.0+)?))$ 或 ^(-([1-9]\d*\.\d*|0\.\d*[1-9]\d*))|0?\.0+|0$
-
正浮點數:^[1-9]\d*\.\d*|0\.\d*[1-9]\d*$ 或 ^(([0-9]+\.[0-9]*[1-9][0-9]*)|([0-9]*[1-9][0-9]*\.[0-9]+)|([0-9]*[1-9][0-9]*))$
-
負浮點數:^-([1-9]\d*\.\d*|0\.\d*[1-9]\d*)$ 或 ^(-(([0-9]+\.[0-9]*[1-9][0-9]*)|([0-9]*[1-9][0-9]*\.[0-9]+)|([0-9]*[1-9][0-9]*)))$
-
浮點數:^(-?\d+)(\.\d+)?$ 或 ^-?([1-9]\d*\.\d*|0\.\d*[1-9]\d*|0?\.0+|0)$
二、校驗字符的表達式
-
漢字:^[\u4e00-\u9fa5]{0,}$
-
英文和數字:^[A-Za-z0-9]+$ 或 ^[A-Za-z0-9]{4,40}$
-
長度為3-20的所有字符:^.{3,20}$
-
由26個英文字母組成的字符串:^[A-Za-z]+$
-
由26個大寫英文字母組成的字符串:^[A-Z]+$
-
由26個小寫英文字母組成的字符串:^[a-z]+$
-
由數字和26個英文字母組成的字符串:^[A-Za-z0-9]+$
-
由數字、26個英文字母或者下划線組成的字符串:^\w+$ 或 ^\w{3,20}$
-
中文、英文、數字包括下划線:^[\u4E00-\u9FA5A-Za-z0-9_]+$
-
中文、英文、數字但不包括下划線等符號:^[\u4E00-\u9FA5A-Za-z0-9]+$ 或 ^[\u4E00-\u9FA5A-Za-z0-9]{2,20}$
-
可以輸入含有^%&’,;=?$\”等字符:[^%&',;=?$\x22]+
-
禁止輸入含有~的字符:[^~\x22]+
三、特殊需求表達式
-
Email地址:^\w+([-+.]\w+)*@\w+([-.]\w+)*\.\w+([-.]\w+)*$
-
域名:[a-zA-Z0-9][-a-zA-Z0-9]{0,62}(/.[a-zA-Z0-9][-a-zA-Z0-9]{0,62})+/.?
-
InternetURL:[a-zA-z]+://[^\s]* 或 ^http://([\w-]+\.)+[\w-]+(/[\w-./?%&=]*)?$
-
手機號碼:^(13[0-9]|14[5|7]|15[0|1|2|3|5|6|7|8|9]|18[0|1|2|3|5|6|7|8|9])\d{8}$
-
電話號碼(“XXX-XXXXXXX”、”XXXX-XXXXXXXX”、”XXX-XXXXXXX”、”XXX-XXXXXXXX”、”XXXXXXX”和”XXXXXXXX):^($$\d{3,4}-)|\d{3.4}-)?\d{7,8}$
-
國內電話號碼(0511-4405222、021-87888822):\d{3}-\d{8}|\d{4}-\d{7}
-
身份證號(15位、18位數字):^\d{15}|\d{18}$
-
短身份證號碼(數字、字母x結尾):^([0-9]){7,18}(x|X)?$ 或 ^\d{8,18}|[0-9x]{8,18}|[0-9X]{8,18}?$
-
帳號是否合法(字母開頭,允許5-16字節,允許字母數字下划線):^[a-zA-Z][a-zA-Z0-9_]{4,15}$
-
密碼(以字母開頭,長度在6~18之間,只能包含字母、數字和下划線):^[a-zA-Z]\w{5,17}$
-
強密碼(必須包含大小寫字母和數字的組合,不能使用特殊字符,長度在8-10之間):^(?=.*\d)(?=.*[a-z])(?=.*[A-Z]).{8,10}$
-
日期格式:^\d{4}-\d{1,2}-\d{1,2}
-
一年的12個月(01~09和1~12):^(0?[1-9]|1[0-2])$
-
一個月的31天(01~09和1~31):^((0?[1-9])|((1|2)[0-9])|30|31)$
-
錢的輸入格式:
-
有四種錢的表示形式我們可以接受:”10000.00″ 和 “10,000.00″, 和沒有 “分” 的 “10000″ 和 “10,000″:^[1-9][0-9]*$
-
這表示任意一個不以0開頭的數字,但是,這也意味着一個字符”0″不通過,所以我們采用下面的形式:^(0|[1-9][0-9]*)$
-
一個0或者一個不以0開頭的數字.我們還可以允許開頭有一個負號:^(0|-?[1-9][0-9]*)$
-
這表示一個0或者一個可能為負的開頭不為0的數字.讓用戶以0開頭好了.把負號的也去掉,因為錢總不能是負的吧.下面我們要加的是說明可能的小數部分:^[0-9]+(.[0-9]+)?$
-
必須說明的是,小數點后面至少應該有1位數,所以”10.”是不通過的,但是 “10″ 和 “10.2″ 是通過的:^[0-9]+(.[0-9]{2})?$
-
這樣我們規定小數點后面必須有兩位,如果你認為太苛刻了,可以這樣:^[0-9]+(.[0-9]{1,2})?$
-
這樣就允許用戶只寫一位小數。下面我們該考慮數字中的逗號了,我們可以這樣:^[0-9]{1,3}(,[0-9]{3})*(.[0-9]{1,2})?$
-
1到3個數字,后面跟着任意個 逗號+3個數字,逗號成為可選,而不是必須:^([0-9]+|[0-9]{1,3}(,[0-9]{3})*)(.[0-9]{1,2})?$
-
備注:這就是最終結果了,別忘了”+”可以用”*”替代。如果你覺得空字符串也可以接受的話(奇怪,為什么?)最后,別忘了在用函數時去掉去掉那個反斜杠,一般的錯誤都在這里
-
xml文件:^([a-zA-Z]+-?)+[a-zA-Z0-9]+\\.[x|X][m|M][l|L]$
-
中文字符的正則表達式:[\u4e00-\u9fa5]
-
雙字節字符:[^\x00-\xff] (包括漢字在內,可以用來計算字符串的長度(一個雙字節字符長度計2,ASCII字符計1))
-
空白行的正則表達式:\n\s*\r (可以用來刪除空白行)
-
HTML標記的正則表達式:<(\S*?)[^>]*>.*?</\1>|<.*? /> (網上流傳的版本太糟糕,上面這個也僅僅能部分,對於復雜的嵌套標記依舊無能為力)
-
首尾空白字符的正則表達式:^\s*|\s*$或(^\s*)|(\s*$) (可以用來刪除行首行尾的空白字符(包括空格、制表符、換頁符等等),非常有用的表達式)
-
騰訊QQ號:[1-9][0-9]{4,} (騰訊QQ號從10000開始)
-
中國郵政編碼:[1-9]\d{5}(?!\d) (中國郵政編碼為6位數字)
-
IP地址:\d+\.\d+\.\d+\.\d+ (提取IP地址時有用)
-
IP地址:((?:(?:25[0-5]|2[0-4]\\d|[01]?\\d?\\d)\\.){3}(?:25[0-5]|2[0-4]\\d|[01]?\\d?\\d)) (由@飛龍三少 提供,感謝共享)