requests.session()會話保持

可能大家對session已經比較熟悉了，也大概了解了session的機制和原理，但是我們在做爬蟲時如何會運用到session呢，就是接下來要講到的會話保持。

首先說一下，為什么要進行會話保持的操作？

requests庫的session會話對象可以跨請求保持某些參數，說白了，就是比如你使用session成功的登錄了某個網站，則在再次使用該session對象求求該網站的其他網頁都會默認使用該session之前使用的cookie等參數

尤其是在保持登陸狀態時運用的最多，在某些網站抓取，或者app抓取時，有的時強制登陸，有的是不登陸返回的數據就是假的或者說是不完整的數據，那我們不可能去做到每一次請求都要去登陸一下怎么辦，就需要用到保持會話的功能了，我們可以只登陸一次，然后保持這種狀態去做其他的或者更多的請求。

其次，我們該如何使用會話保持？舉一個事例來說明一下：

#requests.session():維持會話,可以讓我們在跨請求時保存某些參數
 
 
import requests
 
#實例化session
session = requests.session()
 
#目標url
url = 'https://www.douban.com/accounts/login'
 
form_data = {
    'source': 'index_nav',
    'form_email': 'xxx',
    'form_password': 'xxx',
    'captcha-solution': 'stamp',
    'captcha-id': 'b3dssX515MsmNaklBX8uh5Ab:en'
}
 
#設置請求頭
req_header = {
    'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36',
}
 
#使用session發起請求
response = session.post(url,headers=req_header,data=form_data)
 
if response.status_code == 200:
 
    #訪問個人主頁：
    url = 'https://www.douban.com/people/175417123/'
 
    response = session.get(url,headers = req_header)
 
    if response.status_code == 200:
 
        with open('douban3.html','w') as file:
 
            file.write(response.text)

 

接下來的一點就是，我們該如何在session中手動設置cookie？

import requests
import time
mycookie = { "PHPSESSID":"56v9clgo1kdfo3q5q8ck0aaaaa" }
x = requests.session()
requests.utils.add_dict_to_cookiejar(x.cookies,{"PHPSESSID":"07et4ol1g7ttb0bnjmbiqjhp43"})
x.get("http://127.0.0.1:80",cookies = mycookie)
time.sleep(5)
#請求以后抓包可以檢驗一下是不是添加成功
x.get("http://127.0.0.1:80")
 

這樣，通過requests.utils.add_dict_to_cookiejar對session對象設置cookie，之后所有的請求都會自動加上我自定義的cookie內容。

也可以通過requests.utils.cookiejar_from_dict 先生成一個cookiejar對象，時候在賦值給session.cookies。貌似還可以使用session.cookies.set()或者update()。

另外說一點單獨處理cookie字段，處理為字典格式

# 處理cookie內容為字典
cookie = "SINAGLOBAL=821034395211.0111.1522571861723; wb_cmtLike_1850586643=1; un=[e-mail]; wb_timefeed_1850586643=1; UOR=,,login.sina.com.cn; wvr=6; SUBP=0033WrSXqPxfM725Ws9jqgMF55529P9D9WWsNeq71O_sXkkXNnXFHgOW5JpX5KMhUgL.Fo2RSK5f1hqcShe2dJLoI0qLxK-L12qLB-zLxKqL1hnL1K2LxK-LBo5L12qLxKqL1hML1KzLxKnL1K.LB-zLxK-L1K-LBKqt; YF-V5-G0=c99031715427fe982b79bf287ae448f6; ALF=1556795806; SSOLoginState=1525259808; SCF=AqTMLFzIuDI5ZEtJyAEXb31pv1hhUdGUCp2GoKYvOW0LQTInAItM-ENbxHRAnnRUIq_MR9afV8hMc7c-yVn2jI0.; SUB=_2A2537e5wDeRhGedG7lIU-CjKzz-IHXVUm1i4rDV8PUNbmtBeLVrskW9NUT1fPIUQGDKLrepaNzTEZxZHOstjoLOu; SUHB=0IIUWsCH8go6vb; _s_tentry=-; Apache=921830614666.5322.1525261512883; ULV=1525261512916:139:10:27:921830614666.5322.1525261512883:1525239937212; YF-Page-G0=b5853766541bcc934acef7f6116c26d1"
cookie_dict = {i.split("=")[0]: i.split("=")[1] for i in cookie.split("; ")}
 

 

————————————————
版權聲明：本文為CSDN博主「Danker01」的原創文章，遵循 CC 4.0 BY-SA 版權協議，轉載請附上原文出處鏈接及本聲明。
原文鏈接：https://blog.csdn.net/weixin_42575020/article/details/95179840