運行平台: Windows
python版本: python3.5.2
IDE: pycharm
一、Scrapy簡介
Scrapy是一個為了爬取網站數據提取結構性數據而編寫的應用框架,可以應用於數據挖掘,信息處理或存儲歷史數據等一系列的程序中。自己寫的Python爬蟲程序好比孤軍奮戰,而使用了Scrapy就好比手下有了千軍萬馬。Scrapy可以起到事半功倍的效果
二、Scrapy安裝
1.查看python版本
cmd中輸入python,查看python版本,可以看到我的是3.5.2 64位
2.找到對應版本的第三方庫搜索Lxml、Twisted、Scrapy,下載對應版本
3.cmd進入文件所在的位置,依次執行如下命令(我開始用的pwershell裝的,到scrapy那個失敗了,才換回的cmd,所以有兩個提示已經安裝了)
(1)pip3 install wheel
(2)pip3 install lxml tab補齊
(3)pip3 install Twisted tab補齊
(4)pip3 install Scrapy tab補齊
4.Scrapy安裝完成后,還需要安裝pywin32
一路下一步就OK