錯誤原因:主要是由於該網站禁止爬蟲導致的,可以在請求加上頭信息,偽裝成瀏覽器訪問User-Agent。
新增user-agent信息:
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.80 Safari/537.36'}
req = request.Request(Spider.url, headers=Spider.headers)
# 獲取到的html的信息
htmls = request.urlopen(req).read()
谷歌的user-agent查看方法:按F12打開調試工具,在控制台寫:javascript:alert(navigator.userAgent),user-agent信息就會彈出