描述： 1.使用两台机器，一台是win10，一台是centos7，分别在两台机器上部署scrapy来进行分布式抓取一个网站 2.centos7的ip地址为192.168.1.112，用来作为red ...

scrapy-redis简介 scrapy-redis是scrapy框架基于redis数据库的组件，用于scrapy项目的分布式开发和部署。 有如下特征：  分布式爬取 　　您可以启动多个spider工程，相互之间共享单个redis的requests队列。最适合广泛的多个域名网站的内容爬 ...

转载自：http://www.cnblogs.com/wupeiqi/articles/6912807.html scrapy-redis是一个基于redis的scrapy组件，通过它可以快速实现简单分布式爬虫程序，该组件本质上提供了三大功能： scheduler ...

　　首先，要了解两者的区别，就要清楚scrapy-redis是如何产生的，有需求才会有发展，社会在日新月异的飞速发展，大量相似网页框架的飞速产生，人们已经不满足于当前爬取网页的速度，因此有了分布式爬虫，让其可以并行的爬取更多但又不尽相同的网页，这样大大节省了之前同步完成页面爬取所浪费的时间，同步 ...