scrapy中出現[scrapy.downloadermiddlewares.redirect] DEBUG: Redirecting (302) to 如何解決


這期間,已經使用了 User-Agent,並且源連接直接在瀏覽器打開並不跳轉,也使用requests測試,發現並沒有被重定向。

搜索很久很久無果,然后無奈開始關注 [scrapy.downloadermiddlewares.redirect] DEBUG 這個東西難道是我開啟了某個配置,檢查完並沒有配置與這個相關的,但是突然發現我竟然配置了一個 DEFAULT_REQUEST_HEADERS

這個是之前做百度搜索時配置的,里面指定了host,爬蟲一加載就會使用這個header,結果這里指定的host跟源鏈接里面的不匹配,就發生了重定向。后面一注釋就好了..


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM