python-爬蟲之re模塊

re模塊中常用功能函數

1、compile()

編譯正則表達式模式，返回一個對象的模式。（可以把那些常用的正則表達式編譯成正則表達式對象，這樣可以提高一點效率。）

格式：

re.compile(pattern,flags=0)

pattern: 編譯時用的表達式字符串。

flags 編譯標志位，用於修改正則表達式的匹配方式，如：是否區分大小寫，多行匹配等。常用的flags有：

標志	含義
re.S(DOTALL)	使.匹配包括換行在內的所有字符
re.I（IGNORECASE）	使匹配對大小寫不敏感
re.L（LOCALE）	做本地化識別（locale-aware)匹配，法語等
re.M(MULTILINE)	多行匹配，影響^和$
re.X(VERBOSE)	該標志通過給予更靈活的格式以便將正則表達式寫得更易於理解
re.U	根據Unicode字符集解析字符，這個標志影響\w,\W,\b,\B

import re
tt = "Tina is a good girl, she is cool, clever, and so on..."
rr = re.compile(r'\w*oo\w*')
print(rr.findall(tt))   #查找所有包含'oo'的單詞
執行結果如下：
['good', 'cool']

2、match()

決定re是否在字符串剛開始的位置匹配。//注：這個方法並不是完全匹配。當pattern結束時若string還有剩余字符，仍然視為成功。想要完全匹配，可以在表達式末尾加上邊界匹配符'$'

格式：

re.match(pattern, string, flags=0)

print(re.match('com','comwww.runcomoob').group())
print(re.match('com','Comwww.runcomoob',re.I).group())
執行結果如下：
com
com

import re

# 將正則表達式編譯成Pattern對象
pattern = re.compile(r'rlovep')
# 使用Pattern匹配文本，獲得匹配結果，無法匹配時將返回None
m = pattern.match('rlovep.com')
if m:
# 使用Match獲得分組信息
    print(m.group())
### 輸出 ###
# rlovep

#re.match.
import re
print(re.match("rlovep","rlovep.com"))##匹配rlovep
print(re.match("rlovep","rlovep.com").span())##從開頭匹配rlovep
print(re.match("com","http://rlovep.com"))##不再起始位置不能匹配成功
##輸出：
<_sre.SRE_Match object; span=(0, 6), match='rlovep'>
(0, 6)
None

3、search()

 格式：

re.search(pattern, string, flags=0)

re.search函數會在字符串內查找模式匹配,只要找到第一個匹配然后返回，如果字符串沒有匹配，則返回None。

print(re.search('\dcom','www.4comrunoob.5com').group())
執行結果如下：
4com

*注：match和search一旦匹配成功，就是一個match object對象，而match object對象有以下方法：

• group() 返回被 RE 匹配的字符串
• start() 返回匹配開始的位置
• end() 返回匹配結束的位置
• span() 返回一個元組包含匹配 (開始,結束) 的位置
• group() 返回re整體匹配的字符串，可以一次輸入多個組號，對應組號匹配的字符串。

a. group（）返回re整體匹配的字符串，
b. group (n,m) 返回組號為n，m所匹配的字符串，如果組號不存在，則返回indexError異常
c.groups（）groups() 方法返回一個包含正則表達式中所有小組字符串的元組，從 1 到所含的小組號，通常groups()不需要參數，返回一個元組，元組中的元就是正則表達式中定義的組

import re
a = "123abc456"
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(0))  #123abc456,返回整體
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(1))  #123
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(2))   #abc
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(3))   #456

###group(1) 列出第一個括號匹配部分，group(2) 列出第二個括號匹配部分，group(3) 列出第三個括號匹配部分。###

import re

line = "This is my blog"
#匹配含有is的字符串
matchObj = re.match( r'(.*) is (.*?) .*', line, re.M|re.I)
#使用了組輸出：當group不帶參數是將整個匹配成功的輸出
#當帶參數為1時匹配的是最外層左邊包括的第一個括號，一次類推；
if matchObj:
    print ("matchObj.group() : ", matchObj.group())#匹配整個
    print ("matchObj.group(1) : ", matchObj.group(1))#匹配的第一個括號
    print ("matchObj.group(2) : ", matchObj.group(2))#匹配的第二個括號
else:
    print ("No match!!")

#輸出：

matchObj.group() :  This is my blog
matchObj.group(1) :  This
matchObj.group(2) :  my

4、findall()

re.findall遍歷匹配，可以獲取字符串中所有匹配的字符串，返回一個列表。

 格式：

re.findall(pattern, string, flags=0)

p = re.compile(r'\d+')
print(p.findall('o1n2m3k4'))
執行結果如下：
['1', '2', '3', '4']

import re
tt = "Tina is a good girl, she is cool, clever, and so on..."
print(re.findall(r'\w*oo\w',tt))
執行結果如下：
['good', 'cool']

5、finditer()

 搜索string，返回一個順序訪問每一個匹配結果（Match對象）的迭代器。找到 RE 匹配的所有子串，並把它們作為一個迭代器返回。

格式：

re.finditer(pattern, string, flags=0)

iter = re.finditer(r'\d+','12 drumm44ers drumming, 11 ... 10 ...')
for i in iter:
    print(i)
    print(i.group())
    print(i.span())
執行結果如下：
<_sre.SRE_Match object; span=(0, 2), match='12'>
(0, 2)
<_sre.SRE_Match object; span=(8, 10), match='44'>
(8, 10)
<_sre.SRE_Match object; span=(24, 26), match='11'>
(24, 26)
<_sre.SRE_Match object; span=(31, 33), match='10'>
(31, 33)

6、split()

按照能夠匹配的子串將string分割后返回列表。

可以使用re.split來分割字符串，如：re.split(r'\s+', text)；將字符串按空格分割成一個單詞列表。

格式：

re.split(pattern, string[, maxsplit])

maxsplit用於指定最大分割次數，不指定將全部分割。

print(re.split('\d+','one1two2three3four4five5'))
執行結果如下：
['one', 'two', 'three', 'four', 'five', '']

7、sub()

使用re替換string中每一個匹配的子串后返回替換后的字符串。

格式：

re.sub(pattern, repl, string, count)

import re
text = "JGood is a handsome boy, he is cool, clever, and so on..."
print(re.sub(r'\s+', '-', text))
執行結果如下：
JGood-is-a-handsome-boy,-he-is-cool,-clever,-and-so-on...
其中第二個函數是替換后的字符串；本例中為'-'
第四個參數指替換個數。默認為0，表示每個匹配項都替換。

re.sub還允許使用函數對匹配項的替換進行復雜的處理。

如：re.sub(r'\s', lambda m: '[' + m.group(0) + ']', text, 0)；將字符串中的空格' '替換為'[ ]'。

import re
text = "JGood is a handsome boy, he is cool, clever, and so on..."
print(re.sub(r'\s+', lambda m:'['+m.group(0)+']', text,0))
執行結果如下：
JGood[ ]is[ ]a[ ]handsome[ ]boy,[ ]he[ ]is[ ]cool,[ ]clever,[ ]and[ ]so[ ]on...

8、subn()

 返回替換次數

格式：

subn(pattern, repl, string, count=0, flags=0)

print(re.subn('[1-2]','A','123456abcdef'))
print(re.sub("g.t","have",'I get A,  I got B ,I gut C'))
print(re.subn("g.t","have",'I get A,  I got B ,I gut C'))
執行結果如下：
('AA3456abcdef', 2)
I have A,  I have B ,I have C
('I have A,  I have B ,I have C', 3)

四、一些注意點

1、re.match與re.search與re.findall的區別：

re.match只匹配字符串的開始，如果字符串開始不符合正則表達式，則匹配失敗，函數返回None；而re.search匹配整個字符串，直到找到一個匹配。

a=re.search('[\d]',"abc33").group()
print(a)
p=re.match('[\d]',"abc33")
print(p)
b=re.findall('[\d]',"abc33")
print(b)
執行結果：
None
['3', '3']

a = re.match('<(.*)>','<H1>title<H1>').group()
print(a)
b = re.match('<(.*?)>','<H1>title<H1>').group()
print(b)
執行結果：
<H1>title<H1>
<H1>

a = re.findall(r"a(\d+)b",'a3333b')
print(a)
b = re.findall(r"a(\d+?)b",'a3333b')
print(b)
執行結果如下：
['3333']
['3333']
#######################
這里需要注意的是如果前后均有限定條件的時候，就不存在什么貪婪模式了，非匹配模式失效。

3、用flags時遇到的小坑

print(re.split('a','1A1a2A3',re.I))#輸出結果並未能區分大小寫
這是因為re.split(pattern，string，maxsplit,flags)默認是四個參數，當我們傳入的三個參數的時候，系統會默認re.I是第三個參數，所以就沒起作用。如果想讓這里的re.I起作用，寫成flags=re.I即可。 

 

 

本文轉自：https://www.cnblogs.com/tina-python/p/5508402.html