...

...

1.獲取子標簽： thr_msgs = soup.find_all('div',class_=re.compile('msg')) for i in thr_msgs: print (i) first ...

...

...

1.爬蟲的本質是什么? 模仿瀏覽器的行為,爬取網頁信息。 2.requests 1.get請求 get 2.post請求 View Code 3.其他請求 View ...

推薦使用lxml作為解析器,因為效率更高. 在Python2.7.3之前的版本和Python3中3.2.2之前的版本,必須安裝lxml或html5lib, 因為那些Python版本的標准庫中內置的HTML解析方法不夠穩定. 如下的html_doc是一個缺少部分閉合標簽的html文檔 ...

本文記錄下用來爬蟲主要使用的兩個庫。第一個是requests，用這個庫能很方便的下載網頁，不用標准庫里面各種urllib；第二個BeautifulSoup用來解析網頁，不然自己用正則的話很煩。 requests使用，1直接使用庫內提供的get、post等函數，在比簡單的情況下使用，2利用 ...