一、grep簡介:
grep (縮寫來自Globally search a Regular Expression and Print)是一種強大的文本搜索工具,它能使用正則表達式搜索文本,並把匹配的行打印出來。Unix的grep家族包括grep、egrep和fgrep
表達符集

列出個別使用頻發的選項
1、-v 顯示不包含匹配文本的所有行
過濾掉文件中aaa的行數
2、-l 輸出匹配的文件名
-l 查詢多文件時只輸出包含匹配字符的文件名,而不輸出文本行。
$grep -l "lcj" * datafile
3、-i 忽略大小寫
-i 關閉大小寫敏感性。
示例,查找含有“lcj”這三個字符的行,並且不區分大小寫:
[root@lcj lcj]# cat aa.txt aaaa BBBB cccc DDDD eeee EEEE [root@lcj lcj]# grep bb aa.txt [root@lcj lcj]# grep -i bb aa.txt BBBB [root@lcj lcj]#
4、-n 顯示匹配的行及行號
示例:查找aa.txt文件中含有“CAD”的所有行,並顯示行號:
[root@lcj lcj]# grep -n c aa.txt 3:cccc [root@lcj lcj]#
二、awk簡介

需要截取GET后面的html數據,前提是要過濾出http 狀態碼為200
grep “\” 200 :過濾出http狀態碼為200
awk -F “GET”:指定從那列開始截取
‘{print $2}’:去除字段之間的空格進行截取【如: _"GET_ /11260464.html 】
上面截圖雖然前面的字段是我們所需要的字段,可后面還有多余的數據,如下過濾后面多余的數據:
awk '{print $1}':去除第一個空格之后的所有數據
head:顯示前面10條數據,方便查看數據截取結果,最后可以通過>進行重定向指定文件中
案例
增加“grep”和“awk“命令結合使用案列:
案例:需要獲取GET請求 ,狀態碼為200,並過濾掉json和area字段的所有行
[root@lcj lcj]# cat 200.txt |grep " 200 " | awk -F"GET" '{print $2}'| awk '{print $1}' | grep -v "/js/" |grep -v area >test001.csv
grep -v過濾字段所在行