今天首先講解反爬機制的偽裝User-Agent
第一種:在cmd命令行里用pip安裝fake_useragent
pip install fake-useragent
使用方法:
from fake_useragent import UserAgent
import random
fake_ua=UserAgent() # 構建UserAgent()對象
headers = {'User-Agent':fake_ua.random} #用random來隨機取得用戶代理。
獲取各瀏覽器的fake-useragent
from fake_useragent import UserAgent
ua = UserAgent()
#ie瀏覽器的user agent
print(ua.ie)
#opera瀏覽器
print(ua.opera)
#chrome瀏覽器
print(ua.chrome)
#firefox瀏覽器
print(ua.firefox)
#safri瀏覽器
print(ua.safari)
#最常用的方式
#寫爬蟲最實用的是可以隨意變換headers,一定要有隨機性。支持隨機生成請求頭
print(ua.random)
print(ua.random)
print(ua.random)
第二種:百度搜索網上有很多,將其復制一些使用
附:
如何查看fake-useragent的版本?
有兩種方法
第一種:
百度 pypi fake-useragent查看目前的版本,因為版本更新后有點沒有數據
查到版本號,在地址欄中輸入https://fake-useragent.herokuapp.com/browsers/版本號 比如現在最新的是:https://fake-useragent.herokuapp.com/browsers/0.1.11
就會看到所有的useragent,如圖:
第二種:
在python中你安裝fake-useragent時,進入python,使用命令pip list可以查看對應的版本
————————————————
原文鏈接:https://blog.csdn.net/ITYTI/article/details/83757118