前面介绍的scrapy爬虫只能爬取单个网页。如果我们想爬取多个网页。比如网上的小说该如何如何操作呢。比如下面的这样的结构。是小说的第一篇。可以点击返回目录还是下一页 对应的网页代码： 我们再看进入后面章节的网页，可以看到增加了上一页 对应的网页代码： 通过对比上面的网页代码 ...

这里写一下爬虫大概的步骤，主要是自己巩固一下知识，顺便复习一下。 一，网络爬虫的步骤 1，创建一个工程 scrapy startproject 工程名称 　　创建好工程后，目录结构大概如下： 其中： 　　scrapy.cfg：项目的主配置信息（真正爬虫相关 ...

下面我们看看用scrapy模拟登录的基本写法： 　　注意：我们经常调试代码的时候基本都用chrome浏览器，但是我就因为用了谷歌浏览器（它总是登录的时候不提示我用验证码，误导我以为登录时不需要验证码，其实登录时候必须要验证码的），这里你可以多试试几个浏览器，一定要找个提示你输入验证码的浏览器调试 ...

背景： 　　初来乍到的pythoner，刚开始的时候觉得所有的网站无非就是分析HTML、json数据，但是忽略了很多的一个问题，有很多的网站为了反爬虫，除了需要高可用代理IP地址池外，还需要登录。例如知乎，很多信息都是需要登录以后才能爬取，但是频繁登录后就会出现验证码（有些网站直接就让你输入 ...

网络爬虫之scrapy系列 【scrapy网络爬虫】之0 爬虫与反扒 【scrapy网络爬虫】之一 scrapy框架简介和基础应用 【scrapy网络爬虫】之二 持久化操作 【scrapy网络爬虫】之三 递归解析和post请求 【scrapy网络爬虫】之四 日志等级和请求 ...

在前面的章节中都介绍了scrapy如何爬取网页数据，今天介绍下如何爬取图片。 ...

前面介绍了ImagesPipeline用于下载图片，Scrapy还提供了FilesPipeline用与文件下载。和之前的ImagesPipeline一样，FilesPipeline使用时只需要通过item的一个特殊字段将要下载的文件或图片的url传递给它们，它们便会自动将文件或图片下载到本地 ...

Link Extractors Link Extractors 是那些目的仅仅是从网页(scrapy.http.Response 对象)中抽取最终将会被follow链接的对象｡ Scrapy默认提供2种可用的 Link Extractor, 但你通过实现一个简单的接口创建自己定制的Link ...