三十二 Python分布式爬蟲打造搜索引擎Scrapy精講—scrapy的暫停與重啟


scrapy的每一個爬蟲,暫停時可以記錄暫停狀態以及爬取了哪些url,重啟時可以從暫停狀態開始爬取過的URL不在爬取

實現暫停與重啟記錄狀態

1、首先cd進入到scrapy項目里

2、在scrapy項目里創建保存記錄信息的文件夾

3、執行命令:

  scrapy crawl 爬蟲名稱 -s JOBDIR=保存記錄信息的路徑

  如:scrapy crawl cnblogs -s JOBDIR=zant/001

  執行命令會啟動指定爬蟲,並且記錄狀態到指定目錄

爬蟲已經啟動,我們可以按鍵盤上的ctrl+c停止爬蟲

 

停止后我們看一下記錄文件夾,會多出3個文件

其中的requests.queue文件夾里的p0文件就是URL記錄文件,這個文件存在就說明還有未完成的URL,當所有URL完成后會自動刪除此文件

當我們重新執行命令:scrapy crawl cnblogs -s JOBDIR=zant/001  時爬蟲會根據p0文件從停止的地方開始繼續爬取,

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM