來自 《Python項目案例開發從入門到實戰》(清華大學出版社 鄭秋生 夏敏捷主編)中爬蟲應用——抓取百度圖片
想要爬取指定網頁中的圖片主要需要以下三個步驟:
(1)指定網站鏈接,抓取該網站的源代碼(如果使用google瀏覽器就是按下鼠標右鍵 -> Inspect-> Elements 中的 html 內容)
(2)根據你要抓取的內容設置正則表達式以匹配要抓取的內容
(3)設置循環列表,重復抓取和保存內容
以下介紹了兩種方法實現抓取指定網頁中圖片
(1)方法一:使用正則表達式過濾抓到的 html 內容字符串
1 # 第一個簡單的爬取圖片的程序
2 import urllib.request # python自帶的爬操作url的庫
3 import re # 正則表達式
4
5
6 # 該方法傳入url,返回url的html的源代碼
7 def getHtmlCode(url): 8 # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求
9 headers = { 10 'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \ 11 AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
12 } 13 # 將headers頭部添加到url,模擬瀏覽器訪問
14 url = urllib.request.Request(url, headers=headers) 15
16 # 將url頁面的源代碼保存成字符串
17 page = urllib.request.urlopen(url).read() 18 # 字符串轉碼
19 page = page.decode('UTF-8') 20 return page 21
22
23 # 該方法傳入html的源代碼,通過截取其中的img標簽,將圖片保存到本機
24 def getImage(page): 25 # [^\s]*? 表示最小匹配, 兩個括號表示列表中有兩個元組
26 # imageList = re.findall(r'(https:[^\s]*?(png))"', page)
27 imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page) 28 x = 0 29 # 循環列表
30 for imageUrl in imageList: 31 try: 32 print('正在下載: %s' % imageUrl[0]) 33 # 這個image文件夾需要先創建好才能看到結果
34 image_save_path = './image/%d.png' % x 35 # 下載圖片並且保存到指定文件夾中
36 urllib.request.urlretrieve(imageUrl[0], image_save_path) 37 x = x + 1
38 except: 39 continue
40
41 pass
42
43
44 if __name__ == '__main__': 45 # 指定要爬取的網站
46 url = "https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html"
47 # 得到該網站的源代碼
48 page = getHtmlCode(url) 49 # 爬取該網站的圖片並且保存
50 getImage(page) 51 # print(page)
注意,代碼中需要修改的就是 imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page) 這一塊內容,如何設計正則表達式需要根據你想要抓取的內容設置。我的設計來源如下:
可以看到,因為這個網頁上的圖片都是 png 格式,所以寫成 imageList = re.findall(r'(https:[^\s]*?(png))"', page) 也是可以的。
(2)方法二:使用 BeautifulSoup 庫解析 html 網頁
1 from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函數庫,是Python內置的網頁分析工具
2 import urllib # python自帶的爬操作url的庫
3
4
5 # 該方法傳入url,返回url的html的源代碼
6 def getHtmlCode(url): 7 # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求
8 headers = { 9 'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \ 10 AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
11 } 12 # 將headers頭部添加到url,模擬瀏覽器訪問
13 url = urllib.request.Request(url, headers=headers) 14
15 # 將url頁面的源代碼保存成字符串
16 page = urllib.request.urlopen(url).read() 17 # 字符串轉碼
18 page = page.decode('UTF-8') 19 return page 20
21
22 # 該方法傳入html的源代碼,通過截取其中的img標簽,將圖片保存到本機
23 def getImage(page): 24 # 按照html格式解析頁面
25 soup = BeautifulSoup(page, 'html.parser') 26 # 格式化輸出DOM樹的內容
27 print(soup.prettify()) 28 # 返回所有包含img標簽的列表,因為在Html文件中圖片的插入呈現形式是<img src="..." alt=".." />
29 imgList = soup.find_all('img') 30 x = 0 31 # 循環找到的圖片列表,注意,這里手動設置從第2張圖片開始,是因為我debug看到了第一張圖片不是我想要的圖片
32 for imgUrl in imgList[1:]: 33 print('正在下載: %s ' % imgUrl.get('src')) 34 # 得到scr的內容,這里返回的就是Url字符串鏈接,如'https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png'
35 image_url = imgUrl.get('src') 36 # 這個image文件夾需要先創建好才能看到結果
37 image_save_path = './image/%d.png' % x 38 # 下載圖片並且保存到指定文件夾中
39 urllib.request.urlretrieve(image_url, image_save_path) 40 x = x + 1
41
42
43 if __name__ == '__main__': 44 # 指定要爬取的網站
45 url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html'
46 # 得到該網站的源代碼
47 page = getHtmlCode(url) 48 # 爬取該網站的圖片並且保存
49 getImage(page)
這兩種方法各有利弊,我覺得可以靈活結合使用這兩種方法,比如先使用方法2中指定標簽的方法縮小要尋找的內容范圍,然后再使用正則表達式匹配想要的內容,這樣做起來更加簡潔明了。