因为项目原因，我被领导委任爬取微博用户的一些信息，而作为一个爬虫经验几乎为0的python非老司机，开始了漫长的研究之路。。。。 在了解了爬虫的基本工具和著名框架scrapy后 博主还是决定自己参考网上的各路大神的脚本，写一个登录脚本。。。。 环境 tools 1、Chrome ...

阅读目录 一.抓包利器Fiddler 二.Cookies与保持登录 三.Cookies模拟登录 四.使用 Post 提交数据的方法实现模拟登录 当我们试图从新浪微博抓取数据时，我们会发现网页上提示未登录，无法查看其他用户 ...

一、写在前面 首先呢，由于之前重装系统，又要重新配置环境，然后还有一些别的事，导致我一直没有写爬虫了，不过现在又可以继续写了。 然后我这次说的模拟登录新浪微博呢，不是使用Selenium模拟浏览器操作，毕竟Selenium的效率是真的有些低，所以我选择用Python发送请求实现模拟登录，整个 ...

当我们试图从新浪微博抓取数据时，我们会发现网页上提示未登录，无法查看其他用户的信息。 模拟登录是定向爬虫制作中一个必须克服的问题，只有这样才能爬取到更多的内容。 实现微博登录的方法有很多，一般我们在模拟登录时首选WAP版。 因为PC版网页源码中包括很多的js代码，提交的内容也更多，不适合机器 ...

毕设题目要使用到新浪微博数据，所以要爬取新浪微博的数据。一般而言，新浪微博的爬虫有两种模式：新浪官方API和模拟登录新浪微博。两种方法的异同点和适用情况就无须赘述了。前辈的文章已经非常多了。写这篇文章主要记录自己的探究过程。 参考文章：1，解析新浪微博的登录 ...

这几天一直在研究新浪微博的爬虫，发现爬取微博的数据首先要登录。本来打算是通过账号和密码模拟浏览器登录。但是现在微博的登录机制比较复杂。通过账号密码还没有登录成功QAQ。所以就先记录下，通过cookie直接访问自己的微博主页。 微博登录的认证过程 微博登录的细节在其他的博客里已经有了详细的介绍 ...

隐式等待 显式等待 模拟登陆并获取Cookie的代码 1 ...

这几天要做个获取新浪微博@我的信息， 又不用第三方登录，所以只能通过模拟登录来获取信息，研究的一下发现直接模拟登录微博比较困难，验证的算法比较复杂，于是绕道通过登录新浪通行证后来获取cookie 来获取信息,代码如下。 ...