网络爬虫 编辑 网络爬虫（又称为网页 蜘蛛，网络机器人，在 FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取 万维网信息的程序或者脚本。另外一些不常使用的名字还有 蚂蚁、自动索引、模拟程序或者 蠕虫 ...

WebMagic框架介绍： 　　WebMagic框架是一个爬虫框架，其底层是HttpClient和Jsoup。WebMagic的结构分为Downloader、PageProcessor、Scheduler、Pipeline四大组件，并由Spider将它们彼此组织起来。 　　WebMagic总体 ...

Maven官网：https://mvnrepository.com/artifact/net.sourceforge.htmlunit/htmlunit/2.37.0 （一）使用前的配置： 　　1，使用IDEA创建web项目：https://blog.csdn.net/MyArrow ...

最近学习了下webmagic，学webmagic是因为想折腾下爬虫，但是自己学java的，又不想太费功夫，所以webmagic是比较好的选择了。 写了几个demo，源码流程大致看了一遍。想着把博客园的文章列表爬下来吧。 首页显示的就是第一页文章的列表， 但是翻页按钮不是链接，而是动态 ...

初学爬虫，WebMagic作为一个Java开发的爬虫框架很容易上手，下面就通过一个简单的小例子来看一下。 WebMagic框架简介 WebMagic框架包含四个组件，PageProcessor、Scheduler、Downloader和Pipeline。 这四大组件对应爬虫生命周期中的处理 ...

先导知识 官方教程 简单爬虫编写 Maven配置 第一个爬虫：博客园 特别注意 无意中发现了这个框架，真正的传说中的傻瓜爬虫框架，用来写简单爬虫很方便，也能够通过多写一些代码写复杂爬虫，作者是中国人，看文档就能学会这个框架的使用，我这里简单 ...

今天突发奇想，想统计一下博客园上的这么多文章的阅读次数和发布时间之间有没有什么关系。 于是自己写了一个简单的js脚本，把博客园首页的200页内容，共4000篇文章的发布时间、阅读次数、推荐次数、评论次数都统计了下来。 （不知道有没有给服务器带来负担，抱歉啊，管理员童鞋） 然后把js生成的数据 ...

WebMagic框架教程 http://webmagic.io/docs/zh/ 爬取世纪佳缘小姐姐信息 dao层 爬虫框架持久层 爬虫框架数据筛选逻辑层 // 自动登陆方法 public void login() { //注册 ...