...

要想学好爬虫，必须把基础打扎实，之前发布了两篇文章，分别是使用XPATH和requests爬取网页，今天的文章是学习Beautiful Soup并通过一个例子来实现如何使用Beautiful Soup爬取网页。 什么是Beautiful Soup Beautiful Soup是一款高效 ...

前面介绍的scrapy爬虫只能爬取单个网页。如果我们想爬取多个网页。比如网上的小说该如何如何操作呢。比如下面的这样的结构。是小说的第一篇。可以点击返回目录还是下一页 对应的网页代码： 我们再看进入后面章节的网页，可以看到增加了上一页 对应的网页代码： 通过对比上面的网页代码 ...

...

头疼、、、 　　现在自己写了一个简单爬取网页图片的代码，先分析一下自己写的代码吧 　 ...

Python爬虫爬取动态网页 我们经常会遇到直接把网页地址栏中的url传到get请求中无法直接获取到网页的数据的情况，而且右键查看网页源代码也无法看到网页的数据，同时点击第二页、第三页等进行翻页的时候，网页地址栏中的url也没变，这些就是动态网页，例如：http ...

...

内容整理自中国大学MOOC——北京理工大学-蒿天-Python网络爬虫与信息提取 利用requests.get()方法爬取网页图片，并保存至本地 对于代码进行进一步优化，使保存在本地的文件名与原始文件名相同，并加入异常提醒 ...