python爬蟲 requests庫返回403


今天計划完成多年前的心願,python爬取妹子圖,結果第一步就給我返回了403,經過排查是一個特別弱智的錯誤,特此記錄,提醒自己怎么能這么憨批(手動狗頭)。

import requests
from bs4 import BeautifulSoup

kv = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36',
      'referer': 'https://www.mzitu.com/',
      'cookie': 'Hm_lvt_dbc355aef238b6c32b43eacbbf161c3c=1575636408; Hm_lpvt_dbc355aef238b6c32b43eacbbf161c3c=1575636892'}
demo = requests.get('https://www.mzitu.com/xinggan/page/2/', headers = kv)
soup = BeautifulSoup(demo.content, 'html.parser')
for url in soup.find_all('a', target = True):
    print(url)

問題原因,沒有設置headers請求頭,被服務器攔截,一般情況下設置user-agent即可。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM