linux下shell腳本中sed命令的用法


先來給一個案例:

 #將old.sql文件中的符號“|”替換為“,”,並保存到test.sql文件中
    sed "s/|/,/g" "old.sql"> test.sql 
#將test.sql文件中的每一行最后的符號“,”刪除 sed -i 's/,$//g' test.sql   #在test.sql文件中每行的開頭添加左括號“(” sed -i 's/^/(&/g' test.sql #在test.sql文件中每一行的末尾添右括號“)” sed -i 's/$/&)/g' test.sql   #統計文件old.sql的行數 c=`sed -n '$=' /home/work/BaikalDB/tpch/load/data_tbl/old.sql` #在test.sql文件的第3行~3+99行的末尾添右括號“,” sed -i "3,+99 s/$/&,/" test.sql #在test.sql文件的第n行的開頭添加“insert into table values”,這里的可以為具體的數字,也可以為變量的值,如j變量:${j} sed -i "niinsert into table values " test.sql #將test.sql文件的最后一行末尾的“,”換成“;”,這里的可以為具體的數字,也可以為變量的值,如j變量:${j} sed -i "ns/,$/;/" test.sql

 

以下的知識點轉自:https://www.zhihu.com/tardis/sogou/art/66651350

一個簡單的入門

 

如圖,一個簡單的sed命令包含三個主要部分:參數范圍操作。要操作的文件,可以直接掛在命令行的最后。除了命令行,sed也可以通過-f參數指定一個sed腳本,這個屬於高級用法,不做過多描述。

有些示例命令我會重復多次,聰明如你一定能發現其中規律,有時連解釋都用不着。

參數

-n 這個參數是--quiet或者--silent的意思。表明忽略執行過程的輸出,只輸出我們的結果即可。

我們常用的還有另外一個參數 :-i

使用此參數后,所有改動將在原文件上執行。你的輸出將覆蓋原文件。非常危險,一定要注意。

范圍

1,4 表示找到文件中1,2,3,4行的內容。

這個范圍的指定很有靈性,請看以下示例(請自行替換圖中的范圍部分)。

5 選擇第5行。
2,5 選擇2到5行,共4行。
1~2 選擇奇數行。
2~2 選擇偶數行。
2,+3 和2,5的效果是一樣的,共4行。
2,$ 從第二行到文件結尾。

范圍的選擇還可以使用正則匹配。請看下面示例。

/sys/,+3 選擇出現sys字樣的行,以及后面的三行。
/\^sys/,/mem/ 選擇以sys開頭的行,和出現mem字樣行之間的數據。

為了直觀,下面的命令一一對應上面的介紹,范圍和操作之間是可以有空格的。

 

操作

最常用的操作就是p,意思就是打印。比如,以下兩個命令就是等同的:

 

除了打印,還有以下操作,我們來說常用的。

p 對匹配內容進行打印。
d 對匹配內容進行刪除。這個時候就要去掉-n參數了,想想為什么。
w 將匹配內容寫入到其他地方。

a,i,c等操作雖基本但使用少,不做介紹。我們依然拿一些命令來說明。

 

替換模式

以上是sed命令的常用匹配模式,但它還有一個強大的替換模式,意思就是查找替換其中的某些值,並輸出結果。使用替換模式很少使用-n參數。

 

 

替換模式的參數有點多,但第一部分和第五部分都是可以省略的。替換后會將整個文本輸出出來。

前半部分用來匹配一些范圍,而后半部分執行替換的動作。

范圍

這個范圍和上面的范圍語法類似。看下面的例子。

/sys/,+3 選擇出現sys字樣的行,以及后面的三行。
/\^sys/,/mem/ 選擇以sys開頭的行,和出現mem字樣行之間的數據。

具體命令為:

 

命令

這里的命令是指s。也就是substitute的意思。

查找匹配

查找部分會找到要被替換的字符串。這部分可以接受純粹的字符串,也可以接受正則表達式。看下面的例子。

a 查找范圍行中的字符串a
[a,b,c] 從范圍行里查找字符串a或者b或者c。

命令類似:

 

替換

是時候把找出的字符串給替換掉了。本部分的內容將替換查找匹配部分找到的內容。

可惜的是,這部分不能使用正則。常用的就是精確替換。比如把a替換成b。

但也有高級功能。和java或者python的正則api類似,sed的替換同樣有Matched Pattern的含義,同樣可以得到Group,不深究。常用的替位符,就是&

&號,再重復一遍。當它用在替換字符串中的時候,代表的是原始的查找匹配數據。

[&] 表明將查找到的數據使用[]包圍起來。
“&” 表明將查找的數據使用””包圍起來。

下面這條命令,將會把文件中的每一行,使用引號包圍起來。

 

flag 參數

這些參數可以單個使用,也可以使用多個,僅介紹最常用的。

g 默認只匹配行中第一次出現的內容,加上g,就可以全文替換了。常用。
p 當使用了-n參數,p將僅輸出匹配行內容。
w 和上面的w模式類似,但是它僅僅輸出有變換的行。
i 這個參數比較重要,表示忽略大小寫。
e 表示將輸出的每一行,執行一個命令。不建議使用,可以使用xargs配合完成這種功能。

看兩個命令的語法:

 

好玩

由於正則的關系,很多字符需要轉義。你會在腳本里做些很多\\\*之類的處理。你可以使用|^@!四個字符來替換\

比如,下面五個命令是一樣的。

 

注意:前半部分的范圍是不能使用這種方式的。我習慣使用符號@

其他

正則表達式

可以看到,正則表達式在命令行中無處不在。以下,緊做簡要說明。

^ 行首
$ 行尾
. 單個字符
* 0個或者多個匹配
+ 1個或者多個匹配
? 0個或者1個匹配
{m} 前面的匹配重復m次
{m,n} 前面的匹配重復m到n次
\ 轉義字符
[0-9] 匹配括號中的任何一個字符,or的作用

| or,或者

\b 匹配一個單詞。比如\blucky\b 只匹配單詞lucky

參數i

上面已經簡單介紹了參數i,它的作用是讓操作在原文件執行。無論你執行了啥,原始文件都將會被覆蓋。這是非常危險的。

通過加入一個參數,可以將原文件做個備份。

 

以上命令會對原file文件生效,並生成一個file.bak文件。強烈建議使用i參數同時指定bak文件。

表演一下

我們通過兩個命令,來稍微看下sed和其他命令組合起來的威力。

輸出長度不小於50個字符的行

 

統計文件中有每個單詞出現了多少次

 

查找目錄中的py文件,刪掉所有行級注釋

 

查看第5-7行和10-13行

 

僅輸出ip地址

End


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM