第一次实战，我们以博客园为例。 Cnblog是典型的静态网页，通过查看博文的源代码，可以看出很少js代码，连css代码也比较简单，很适合爬虫初学者来练习。 博客园的栗子，我们的目标是获取某个博主的所有博文，今天先将第一步。 第一步：已知某一篇文章的url，如何获取正文？ 举个栗子 ...

要求 第一部分： 请分析作业页面，爬取已提交作业信息，并生成已提交作业名单，保存为英文逗号分隔的csv文件。文件名为：hwlist.csv 。 文件内容范例如下形式： 学号,姓名,作业标题,作业提交时间,作业URL 20194010101,张三,羊车门作业 ...

Python爬虫爬取博客园并保存 爬取博客园指定用户的文章修饰后全部保存到本地 首先定义爬取的模块文件： crawlers_main.py 执行入口 url_manager.py url管理器 download_manager.py 下载模块 ...

jsoup爬虫 1、导入pom依赖 2、网站爬取--BlogCrawlerStarter 博客园首页信息图片 爬取到的数据 3、简单图片爬取 --DownloadImg 爬取图片样式 爬取 ...

1.前言 最新在公司做一个项目，需要一些文章类的数据，当时就想到了用网络爬虫去一些技术性的网站爬一些，当然我经常去的就是博客园，于是就有下面的这篇文章。 程序源码:CSDN下载地址 2.准备工作 我需要把我从博客园爬取的数据，保存起来，最好的方式当然是保存到数据库中去了，好了我们先建一个 ...

写这篇 blog 其实一开始我是拒绝的，因为爬虫爬的就是cnblog博客园。搞不好编辑看到了就把我的账号给封了：）。 言归正传，前端同学可能向来对爬虫不是很感冒，觉得爬虫需要用偏后端的语言，诸如 php ， python 等。当然这是在 nodejs 前了，nodejs 的出现 ...

其实写这篇文章，我是很忐忑的，因为爬取的内容就是博客园的，万一哪个顽皮的小伙伴拿去干坏事，我岂不成共犯了？ 好了，进入主题。 首先，爬虫需要用到的模块有： express ejs superagent （nodejs里一个非常方便的客户端请求代理模块） cheerio ...

最近学习了下webmagic，学webmagic是因为想折腾下爬虫，但是自己学java的，又不想太费功夫，所以webmagic是比较好的选择了。 写了几个demo，源码流程大致看了一遍。想着把博客园的文章列表爬下来吧。 首页显示的就是第一页文章的列表， 但是翻页按钮不是链接，而是动态 ...