scrapy的每一個爬蟲,暫停時可以記錄暫停狀態以及爬取了哪些url,重啟時可以從暫停狀態開始爬取過的URL不在爬取
實現暫停與重啟記錄狀態
1、首先cd進入到scrapy項目里
2、在scrapy項目里創建保存記錄信息的文件夾
3、執行命令:
scrapy crawl 爬蟲名稱 -s JOBDIR=保存記錄信息的路徑
如:scrapy crawl cnblogs -s JOBDIR=zant/001
執行命令會啟動指定爬蟲,並且記錄狀態到指定目錄
爬蟲已經啟動,我們可以按鍵盤上的ctrl+c停止爬蟲
停止后我們看一下記錄文件夾,會多出3個文件
其中的requests.queue文件夾里的p0文件就是URL記錄文件,這個文件存在就說明還有未完成的URL,當所有URL完成后會自動刪除此文件
當我們重新執行命令:scrapy crawl cnblogs -s JOBDIR=zant/001 時爬蟲會根據p0文件從停止的地方開始繼續爬取,