的链接 3）保存图片 python代码下载流程 1）获取https://wall.alph ...

第一次写一个算是比较完整的爬虫，自我感觉极差啊，代码low，效率差，也没有保存到本地文件或者数据库，强行使用了一波多线程导致数据顺序发生了变化。。。 贴在这里，引以为戒吧。 没有考虑实际生产中突发的状况，比如网速延迟卡顿等问题。 速度是真慢，有时间会分享给大家 selenium ...

以前搞偷偷摸摸的事，不对，是搞爬虫都是用urllib，不过真的是很麻烦，下面就使用requests + BeautifulSoup 爬爬简单的网页。 详细介绍都在代码中注释了，大家可以参阅。 发现自己表述能力真的是渣啊，慢慢提高吧。 ...

简介 Python标准库中提供了：urllib、urllib2、httplib等模块以供Http请求，但是，它的 API 太渣了。它是为另一个时代、另一个互联网所创建的。它需要巨量的工作，甚至包括各种方法覆盖，来完成最简单的任务。 Requests 是使用 Apache2 Licensed ...

本文记录下用来爬虫主要使用的两个库。第一个是requests，用这个库能很方便的下载网页，不用标准库里面各种urllib；第二个BeautifulSoup用来解析网页，不然自己用正则的话很烦。 requests使用，1直接使用库内提供的get、post等函数，在比简单的情况下使用，2利用 ...

用Python实现爬虫的包有很多，可以结合使用，但是目前个人觉得BeautifulSoup至少在看上去会更方便和美观一些。 这里只涉及静态网页的爬取，暂不支持cookie、session等。 Python实现微博热搜榜的爬取 微博热搜地址：https://s.weibo.com ...

两种爬虫模式比较： 1、requests和beautifulsoup都是库，scrapy是框架。 2、scrapy框架中可以加入requests和beautifulsoup。 3、scrapy基于twisted，性能是最大的优势。 4、scrapy方便扩展，提供了很多内置的功能 ...

总结起来，有俩点最重要： 1）scrapy使用twisted异步网络框架，类似nodejs，性能高； 2）scrapy内置的selector比beautifulsoup效率要高很多； ...