這幾天一直在研究新浪微博的爬蟲,發現爬取微博的數據首先要登錄。本來打算是通過賬號和密碼模擬瀏覽器登錄。但是現在微博的登錄機制比較復雜。通過賬號密碼還沒有登錄成功QAQ。所以就先記錄下,通過cookie直接訪問自己的微博主頁。 微博登錄的認證過程 微博登錄的細節在其他的博客里已經有了詳細的介紹 ...
畢設題目要使用到新浪微博數據,所以要爬取新浪微博的數據。一般而言,新浪微博的爬蟲有兩種模式:新浪官方API和模擬登錄新浪微博。兩種方法的異同點和適用情況就無須贅述了。前輩的文章已經非常多了。寫這篇文章主要記錄自己的探究過程。 參考文章: ,解析新浪微博的登錄過程 , Javascript 爬蟲 模擬新浪微博登陸 ,用java程序模擬登陸新浪微博 背景知識:Http協議,HttpClient開源包。 ...
2014-03-25 16:22 0 5401 推薦指數:
這幾天一直在研究新浪微博的爬蟲,發現爬取微博的數據首先要登錄。本來打算是通過賬號和密碼模擬瀏覽器登錄。但是現在微博的登錄機制比較復雜。通過賬號密碼還沒有登錄成功QAQ。所以就先記錄下,通過cookie直接訪問自己的微博主頁。 微博登錄的認證過程 微博登錄的細節在其他的博客里已經有了詳細的介紹 ...
因為項目原因,我被領導委任爬取微博用戶的一些信息,而作為一個爬蟲經驗幾乎為0的python非老司機,開始了漫長的研究之路。。。。 在了解了爬蟲的基本工具和著名框架scrapy后 博主還是決定自己參考網上的各路大神的腳本,寫一個登錄腳本。。。。 環境 tools 1、Chrome ...
上一篇文章小試牛刀:使用Python模擬登錄知乎介紹了如何模擬知乎登錄,雖然用到了驗證碼信息,但請求的參數都是原封不動的傳遞,剛開始接觸的時候,覺得難度適中,回頭再看的時候,反而感覺挺容易的。在這篇文章,將繼續介紹模擬登錄。與之前不一樣的是,這次選擇的對象是新浪微博,難度稍微提升了點,好在以往 ...
隱式等待 顯式等待 模擬登陸並獲取Cookie的代碼 1 ...
這幾天要做個獲取新浪微博@我的信息, 又不用第三方登錄,所以只能通過模擬登錄來獲取信息,研究的一下發現直接模擬登錄微博比較困難,驗證的算法比較復雜,於是繞道通過登錄新浪通行證后來獲取cookie 來獲取信息,代碼如下。 ...
模擬登陸部分實現: package token.exe; import java.math.BigInteger; import java.util.Random; import org.apache.commons.codec.binary.Base64; public ...
沒有調用新浪的API,在程序中加入自己的帳號和密碼就能發送微博,代碼完全在后台運行,不用打開瀏覽器。 用了HtmlUnit這個庫來模擬登錄還有發送微博。 先上效果圖: 這個是剛登陸上獲取第一頁的信息。 發送微博: 沒什么難的地方,找到相應的按鈕和文本域,然后點 ...
mport java.io.IOException;import java.net.MalformedURLException;import com.gargoylesoftware.htmlunit.BrowserVersion;import ...