2022-01-21
一、概述
無論是開發還是測試,在工作中經常會遇到需要抓包的時候。本篇博客主要介紹如何在各個平台下,高效的抓包。目前的抓包軟件總體可以分為兩類,一種是設置代理抓取http包,比如Charles、mitmproxy這些軟件。
另一種是直接抓取經過網卡的所有協議包,其中最出名就是大名鼎鼎的wireshark以及linux自帶的抓包軟件tcpdump。下面重點介紹一下這四個抓包工具的特點以及使用。
二、Wireshark
wireshark想必大多數程序員都不會陌生。wireshark在各個平台都可以安裝使用,它可以抓取經過指定網卡的所有協議。wireshark雖然很強大,但是對初學者其實不是很友好。
這也正是由於它太強大,它可以抓取所有包,所以初學者在使用時面對茫茫數據流不知所措。初學者需要認真的去學習怎么過濾得到自己感興趣的包,但是如果不熟悉wireshark的過濾語法,要過濾數據包將舉步維艱。
過濾語法簡單介紹
wireshark的過濾語法總結起來其實也很簡單,就是以協議開頭,后面可以跟着協議的屬性,然后加上一些判斷符號,比如contains、==、>、<等等。比如只想展示http的協議內容,則直接在過濾器輸入框中輸入http即可。如下圖:
比如我只想看http協議的請求頭中uri包含’/api’的協議,就可以這么寫:
如果想通過目標ip或者來源ip來過濾包,就不可以以http協議為前綴了,因為這些是ip協議的相關屬性。通過目標ip來過濾可以這么寫:
上面表示目標機器的ip是61.135.217.100並且協議是http的包。
wireshark支持很多種協議,我們可以通過右上角的expression來打開搜索支持的協議,還可以找出協議支持的屬性,然后填入期待的值,軟件會自動為我們構建過濾語句。
優缺點
優點:
1、功能強大,可以抓取所有協議的包
缺點:
1、由於線上服務器沒有GUI,只有命令行,因此無法在線上服務器使用
2、無法分析https數據包,由於wireshark是在鏈路層獲取的數據包信息,所以獲取到的https包是加密后的數據,因此無法分析包內容。當然,我們可以對https數據包進行解密, 但是操作具有一定的復雜度,可能要消耗很多時間。
三、Tcpdump
tcpdump是linux上自帶的一個抓包軟件(mac也有),功能強大,也可以抓取經過指定網卡的所有協議包。由於是命令行工具,tcpdump抓取到的包不易於分析,一個常見的做法是將tcpdump抓到的包輸出到某個文件,然后將文件拷貝下來用wireshark分析。
tcpdump的簡單使用介紹
下面的語句參考文章:https://www.cnblogs.com/ggjucheng/archive/2012/01/14/2322659.html
一些簡單的過濾參數:
-
# -i 參數表示抓取指定網卡的內容。具體網卡可以通過 ifconfig 命令查看
-
# 如果不指定網卡,默認tcpdump只會監視第一個網絡接口
-
tcpdump -i eth1
-
# 打印所有www. baidu.com相關的包,這個host后面可以填 域名,也可以填ip
-
tcpdump host www. baidu.com
-
tcpdump host 192.168.0.1
-
# 打印 nn1和nn2或nn3 主機間通信的包,這里可以替換成ip
-
tcpdump host nn1 and \( nn2 or nn3 \)
-
# 打印nn1和非nn2之間的ip數據包
-
tcpdump ip host nn1 and not nn2
-
# 發送者是nn1的數據包
-
tcpdump -i eth0 src host nn1
-
# 接受者是nn1的數據包
-
tcpdump -i eth0 dst host nn1
-
# 指定tcp端口是 23以及host是210.27.48.1數據包
-
tcpdump tcp port 23 and host 210.27.48.1
抓包內容輸出到文件:
-
# 抓取指定網卡的包輸出到test. cap
-
tcpdump -i en0 -w test. cap
之后我們可以把test.cap直接用wireshark打開,就可以很直觀的分析包了。
用tcpdump輸出cap文件包:
tcpdump -r test.cap
優缺點
優點:
缺點:
四、Charles
Charles是一款http抓包工具,它是通過代理來實現的抓包。也就是我們在訪問網頁時需要配置代理,將代理指向Charles監聽的端口,之后我們的http請求都會發向Charles的端口,之后Charles會幫我們轉發並記錄協議內容。
Charles的使用非常簡單,配置好代理后,Charles就開始抓包了。我們可以直接通過Charles的GUi查看包的內容:
上圖中的unknown表示https加密后的數據,所以看到不協議的具體內容。我們可以通過安裝Charles的證書,讓Charles也可以查看https協議的具體內容。
優缺點
優點:
2、要抓取https協議的配置也很簡單,只要安裝下charles的證書就可以了
缺點:
五、mitmproxy
mitmproxy是python寫的一款http抓包工具,雖然只支持http抓包,但是它的特性非常強大,它不僅可以抓包,還可以對請求進行攔截、重現等操作。和Charles一樣,它的原理也是基於代理,使用的時候需要設置代理指向它。
mitmproxy是命令行工具,但是也自帶了mitmweb工具,可以讓用戶在網頁上操作。另外,mitmproxy還支持用戶自行編寫插件,可以編寫腳本對請求進行處理,然后把修改后的請求發出去。
安裝
首先需要在機器安裝python3以及pip3.之后通過pip3安裝
pip3 install mitmproxy
如果安裝mitmproxy過程中報錯ModuleNotFoundError: No module named '_ssl'
,就需要安裝一下OpenSSL,然后再重新編譯安裝一下python3。
-
yum install openssl-devel bzip2-devel expat-devel gdbm-devel readline-devel sqlite-devel gcc gcc-c++
-
# 去 Python3的安裝目錄再次安裝編譯一次python3
-
make && make install
安裝好 openSSL 后再執行pip3 install mitmproxy
使用
安裝后,直接在命令行輸入mitmproxy
就會進入它的交互界面:
這時候mitmproxy已經開始監聽8080端口(默認),接着,我們可以去瀏覽器設置代理。瀏覽器設置代理的方式有很多,這里不多做介紹。
設置完代理后,訪問瀏覽器的請求都會被發到mitmproxy上,mitmproxy根據規則對請求進行攔截(不配置攔截規則的話則都不攔截),所有經過的請求都會被輸出:
在交互界面上可以通過快捷鍵操作請求。輸入問號’?’,可以查看快捷鍵的文檔。
下面介紹一些常用的快捷鍵和功能:
1. 請求過濾
在請求列表交互界面,按下f鍵后,可以輸入一些過濾規則:
具體的過濾語法可以按下’?‘鍵后,再按下方向鍵右’—>’或者l鍵。
2. 請求攔截
按下i鍵后,可以對指定的請求進行攔截。按mitmproxy收到指定條件的請求時,不會立馬把它轉發出去,而是等待我們執行resume操作后,才會把請求轉發出去——在這期間我們甚至可以對請求進行手動修改。
紅色字體表示該請求被攔截
之后我們可以按入a鍵來恢復該請求,可以輸入A鍵恢復所有被攔截的請求。
3.查看/編輯請求
把指示光標移動到某個請求上,按回車可以查看請求的內容。或者鼠標直接點擊請求也可以。
之后通過左右方向鍵可以查看request、response、detail等信息。
如果要編輯請求,可以在這個界面輸入e,然后會讓我們選擇編輯哪塊內容:
之后就會進入vim編輯界面編輯相應的內容了(保存后會生效)。
4. 重發請求
mitmproxy的光標指向某個請求時,按下r鍵可以重發這個請求(重發前可以對該請求進行編輯)。
按下’:’鍵后,可以輸入命令,這樣我們就可以通過過濾規則批量的重發請求
replay.client
是mitmproxy內置的一個命令,我們也可以自行編寫命令。命令的編寫可以參考官網文檔,這里不做介紹。
5. 插件開發
我們可以編寫插件,然后再啟動的時候指定插件,mitmproxy處理請求的時候會執行一個插件的鏈,這樣我們就可以對請求進行編輯然后再發送出去了。
借用官網的插件demo:
-
from mitmproxy import ctx
-
-
class Counter:
-
def __init__(self):
-
self. num = 0
-
-
def request(self, flow):
-
self. num = self.num + 1
-
ctx. log.info("We've seen %d flows" % self.num)
-
-
addons = [
-
Counter()
-
]
這個方法對每一個請求進行處理,然后打印序號。通過mitmproxy -s test.py
來讓插件生效。通過插件可以綁定各種連接事件。感興趣的朋友可以自行去mitmproxy官網看文檔,這里不多做介紹。
6. 保存抓到的請求數據
通過w快捷鍵我們可以把這次抓到的請求包保存到文件上。
優缺點
優點:
1、命令行操作,可以在無GUI界面的服務器上使用
缺點:
六、總結
對於這幾個抓包神器,我總結了下使用場景:
-
只抓http協議的話,推薦使用mitmproxy。mitmproxy豐富的功能不僅可以滿足我們的抓包需求,還可以提升我們的工作效率。比如測試可以抓包后一鍵重發請求來重現bug,開發調試的時候可以修改請求內容等等。
-
如果是在線上的沒有GUI的服務器,推薦使用tcpdump,雖然mitmproxy也可以支持命令行抓包,但是生產環境的服務器最好不要亂安裝第三方插件。另外,大多數服務器都有裝tcpdump。我們可以通過把請求的內容輸出到文件,然后拷貝會自己的電腦用wireshark分析。
-
想要抓取http以外的協議的話,直接上wireshark。功能強大
-
對於Charles,感覺用了mitmproxy之后,就基本用不上Charles了。Charles好像也可以編輯后再發送,但是感覺不是很好用,可能我用的不是很熟吧。