網絡爬蟲－使用Python抓取網頁數據

 

搬自大神boyXiong的干貨！

閑來無事，看看了Python，發現這東西挺爽的，廢話少說，就是干

• 准備搭建環境 
  
  • 因為是MAC電腦，所以自動安裝了Python 2.7的版本
  • 添加一個 庫 Beautiful Soup ,方法這里說兩種 
    
    • 1.在終端輸入 pip install BeautifulSoup
    • 2.手動下載包后，終端切換到 解壓的文件夾，輸入 sudo python setup.py install 下載地址BeautifulSoup
• 開始寫代碼吧 
  
  • 先找一個想要抓取東西的網站，這里我就隨便找一個吧 地址是：http://movie.douban.com/chart
  • 好了在終端輸入 vim 我知道這個東西，對於新手來說，就是一個挑戰，這里我也建議使用輕量的Sublime
  • 代碼如下 (注意python是嚴格的縮進,以下代碼要頂格寫)

1 #-*- coding:utf-8 -*-
2 import urllib2
3 import urllib
4 html=urllib2.urlopen("http://movie.douban.com/chart").read()
5 print html

• 輸出的結果就是一個HTML的網頁，這里我就看到自己想要抓取的圖片和圖片名的文字片段

<a class="nbg" href="http://movie.douban.com/subject/24879839/"  title="道士下山">
           <img src="http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251450614.jpg" alt="道士下山" class=""/>
</a>

• 分析我們想要的，一個是圖片的名稱，一個是圖片的鏈接地址，直接上Python代碼

 1 #-*- coding:utf-8 -*-
 2 import urllib2
 3 from bs4 import BeautifulSoup
 4 
 5 import sys  
 6 reload(sys)  
 7 sys.setdefaultencoding('utf8')
 8 
 9 # 函數
10 def  printPlistCode():
11     #1.得到這個網頁的 html 代碼 #
12     html = urllib2.urlopen("http://movie.douban.com/chart").read()
13 
14     #2.轉換 一種格式，方便查找
15     soup = BeautifulSoup(html)
16     #3.  得到 找到的所有 包含 a 屬性是class = nbg 的代碼塊,數組
17     liResutl = soup.findAll('a', attrs = {"class" : "nbg"})
18     #4.用於拼接每個字典的字符串
19     tmpDictM = ''
20 
21     #5. 遍歷這個代碼塊  數組
22     for li in liResutl:
23 
24         #5.1 找到 img 標簽的代碼塊 數組
25         imageEntityArray = li.findAll('img')
26 
27         #5.2 得到每個image 標簽
28         for image in imageEntityArray:
29             #5.3 得到src 這個屬性的 value  后面也一樣 類似 key value
30             link = image.get('src')
31             imageName = image.get('alt')
32             #拼接 由於 py中 {} 是一種數據處理格式，類似占位符
33             tmpDict = '''@{0}@\"name\" : @\"{1}\", @\"imageUrl\" : @\"{2}\"{3},'''
34 
35             tmpDict =  tmpDict.format('{',imageName,link,'}')
36 
37             tmpDictM = tmpDictM + tmpDict
38 
39     #6.去掉最后一個 , 
40     tmpDictM = tmpDictM[0:len(tmpDictM) - 1].decode('utf8')
41 
42     #7 拼接全部
43     restultStr = '@[{0}];'.format(tmpDictM)
44 
45     print restultStr
46 
47 
48 if __name__ == '__main__':
49     printPlistCode()

• 輸出結果就是Objective-C的 數組

@[@{@"name" : @"進擊的巨人真人版：前篇", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251690571.jpg"},@{@"name" : @"花與愛麗絲殺人事件", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2222398443.jpg"},@{@"name" : @"小黃人大眼萌", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2258235689.jpg"},@{@"name" : @"小森林 冬春篇", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2215147728.jpg"},@{@"name" : @"道士下山", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251450614.jpg"},@{@"name" : @"深夜食堂 電影版", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2205014862.jpg"},@{@"name" : @"小男孩", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2230105606.jpg"},@{@"name" : @"頭腦特工隊", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2231021196.jpg"},@{@"name" : @"百元之戀", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2205471169.jpg"},@{@"name" : @"殺破狼2", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2246885606.jpg"}];

 

• 使用Xcode 寫到Plist中去

#import <Foundation/Foundation.h>

int main(int argc, const char * argv[]) {


    NSArray *plistArray = @[@{@"name" : @"進擊的巨人真人版：前篇", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251690571.jpg"},@{@"name" : @"花與愛麗絲殺人事件", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2222398443.jpg"},@{@"name" : @"小黃人大眼萌", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2258235689.jpg"},@{@"name" : @"小森林 冬春篇", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2215147728.jpg"},@{@"name" : @"道士下山", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251450614.jpg"},@{@"name" : @"深夜食堂 電影版", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2205014862.jpg"},@{@"name" : @"小男孩", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2230105606.jpg"},@{@"name" : @"頭腦特工隊", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2231021196.jpg"},@{@"name" : @"百元之戀", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2205471169.jpg"},@{@"name" : @"殺破狼2", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2246885606.jpg"}];
    //路徑可以自己選擇
    [plistArray writeToFile:@"/Users/xxx/Desktop/test/movie.plist" atomically:YES];

    return 0;
}

 

• 到這里，就可以看到plist 文件可以用於測試了 
  
• 如果想要復制粘貼這里面的代碼，那就選擇Sublime編輯器
• (歡迎轉帖，請附上源地址boyXiong)