我用c#,java都寫過爬蟲。區別不大，原理就是利用好正則表達式。只不過是平台問題。后來了解到很多爬蟲都是用python寫的。因為目前對python並不熟，所以也不知道這是為什么。百度了下結果：
1）抓取網頁本身的接口
相比與其他靜態編程語言，如java，c#，C++，python抓取網頁文檔的接口更簡潔；相比其他動態腳本語言，如perl，shell，python的urllib2包提供了較為完整的訪問網頁文檔的API。（當然ruby也是很好的選擇）
此外，抓取網頁有時候需要模擬瀏覽器的行為，很多網站對於生硬的爬蟲抓取都是封殺的。這是我們需要模擬user agent的行為構造合適的請求，譬如模擬用戶登陸、模擬session/cookie的存儲和設置。在python里都有非常優秀的第三方包幫你搞定，如Requests，mechanize
2）網頁抓取后的處理
抓取的網頁通常需要處理，比如過濾html標簽，提取文本等。python的beautifulsoap提供了簡潔的文檔處理功能，能用極短的代碼完成大部分文檔的處理。
其實以上功能很多語言和工具都能做，但是用python能夠干得最快，最干凈。Life is short， u need python.
沖最后一句‘Life is short， u need python’，立馬在當當上買了本python的書！以前就膜拜過python大牛，一直想學都扯於各種借口遲遲沒有開始。。
py用在linux上很強大，語言挺簡單的。
NO.1 快速開發（唯一能和python比開發效率的語言只有rudy）語言簡潔，沒那么多技巧，所以讀起來很清楚容易。
NO.2跨平台（由於python的開源，他比java更能體現"一次編寫到處運行"
NO.3解釋性（ 無須編譯，直接運行／調試代碼）
NO.4構架選擇太多（GUI構架方面 主要的就有 wxPython, tkInter, PyGtk, PyQt 。
順便買了本《正則表達式》的書。
下班了，，先寫到這把。。
多學習。To be niubility！