使用:
from fake_useragent import UserAgent
ua = UserAgent(verify_ssl=False)
res = ua.random
print(res)
安装
pip3 install fake_useragent
各浏览器User-Agent的值
from fake_useragent import UserAgent ua = UserAgent() # ie浏览器的user agent print(ua.ie)
Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US)
#opera浏览器 print(ua.opera)
Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11
#chrome浏览器 print(ua.chrome)
Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.2 (KHTML, like Gecko) Chrome/22.0.1216.0 Safari/537.2 #firefox浏览器
#firefox浏览器 print(ua.firefox)
Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1
#safri浏览器 print(ua.safari)
Mozilla/5.0 (iPad; CPU OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5355d Safari/8536.25
实用性
写到这里大家会发现写爬虫最实用的是可以随意变换headers,一定要有随机性。在这里我写了三个随机生成user agent,三次打印都不一样,随机性很强,十分方便。
from fake_useragent import UserAgent ua = UserAgent() print(ua.random) print(ua.random) print(ua.random)
Mozilla/5.0 (X11; Ubuntu; Linux i686; rv:15.0) Gecko/20100101 Firefox/15.0.1 Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1 Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11
爬虫中具体使用方法
import requests from fake_useragent import UserAgent ua = UserAgent() headers = {'User-Agent': ua.random} url = '待爬网页的url' resp = requests.get(url, headers=headers) #省略具体爬虫的解析代码,大家可以回去试试 ...
1. UserAgent 模块使用
1
2
3
4
5
6
|
from
fake_useragent
import
UserAgent
ua
=
UserAgent()
# 实例化,实例化时需要联网但是网站不太稳定
print
(ua.ie)
# 随机打印一个 ie 浏览器的头
print
(ua.random)
# 随机打印 User-Agent
|
1
|
pip install fake
-
useragent
|
1
2
3
4
5
6
7
8
|
下载地址:
http:
/
/
d2g6u4gh6d9rq0.cloudfront.net
/
browsers
/
fake_useragent_0.
1.10
.json
最后的 fake_useragent_0.
1.10
.json 中的
0.1
.
10
指的是版本
查看版本
https:
/
/
pypi.org
/
project
/
fake
-
useragent
/
/
/
也是模块,文档
|
1
2
3
4
5
6
7
8
|
下载地址:
http:
/
/
d2g6u4gh6d9rq0.cloudfront.net
/
browsers
/
fake_useragent_0.
1.10
.json
最后的 fake_useragent_0.
1.10
.json 中的
0.1
.
10
指的是版本
查看版本
https:
/
/
pypi.org
/
project
/
fake
-
useragent
/
/
/
也是模块,文档
|