返回碼418,scrapy 重新請求
問題情景: scrapy爬取網頁,返回值418(按照請求來說,是一個完整的網絡請求)。說明此接口已經被后台爬蟲檢測程序檢測到了。 通過研讀scrapy文檔,在自定義的418檢測下載中間件里面,process_response中檢測返回值,並設置request的http/https代理 ...
問題情景: scrapy爬取網頁,返回值418(按照請求來說,是一個完整的網絡請求)。說明此接口已經被后台爬蟲檢測程序檢測到了。 通過研讀scrapy文檔,在自定義的418檢測下載中間件里面,process_response中檢測返回值,並設置request的http/https代理 ...