【系統工程師的自我修養】sed篇


作者:gnuhpc
出處:http://www.cnblogs.com/gnuhpc/

注:本文除特殊注明外均針對傳統UNIX中的sed,而非GNU的版本,以保證通用性,GNU的新特性本文暫不進行介紹,請參看手冊。另外,本文對sed的講述和總結不為求全面,只求實用性和適用性強。有需要還是參閱man手冊和sed相關資料。

1.原理篇

掌握這個東西首先需要掌握的就是原理,否則一切技巧都是白扯。sed以行為處理單位,默認輸入輸出均為系統標准輸入輸出(因此除非重定向,否則它並不真正修改文件),它首先判斷要處理的行是否在要處理的范圍之內(下一章中稱之為SELECTION),如果是則讀入pattern space中,這是sed進行字符串處理工作的一個區域。腳本中的sed命令逐條執行來編輯pattern space里面的字符串,執行完畢后將該pattern space中處理過的字符串進行輸出,隨之pattern space被清空;接着,再重復執行剛才的動作,文件中的新的一行被讀入,判斷是否在SELECTION中,編輯、輸出,直到文件處理完畢,整個過程如下圖所示。除了 pattern space 外,sed還有一個 hold space,用處是暫存文字字符串的地方,hold space中的字符串只是用於臨時處理的中間結果,是不會被輸出的(在本文第四章會有介紹,此時不了解不影響閱讀此文)。

 

clip_image002

2.用途篇

學習一個腳本語言,了解了基本原理后就要調研一下這個東東是不是滿足完成你任務的需求。一提到sed,肯定就會牽扯到awk,它具體的功能會在后邊的awk篇進行敘述。對於同一個任務,sed和awk都有可能解決,因此對於sed、awk的用途每個人都有不同的習慣和自己擅長的用法,在實踐中,我個人習慣於用sed進行行處理,也就是根據sed的原理,需要進行一行行的處理操作時優先使用sed。而用awk更多的進行列處理。而在具體任務上,由於sed強大的替換能力和編輯能力,我常常用sed作為編輯器,而awk 作為信息獲取和格式處理輸出的能力。

 

3.初級語法篇

作為一個腳本類工具,確定就要用它完成任務后,要開始真正使用它,掌握其語言特性是必不可少的。形式上,使用sed采用如下命令格式:

sed [options] 'SELECTION edit-instructions'  file(s)

從命令格式可以看出sed可以一次處理多個文本。此處先不介紹options,因為options往往要和后邊的command進行配合而才能體現出價值。下邊,我們先從command開始了解。

根據是否使用hold space(不懂這個概念也可先往下看,讀完本文就明白)的區別,對於一個初級用戶,了解如下sed中不使用hlod space 的command是實踐的第一步。本文在此基礎上以解決問題的思路首先來介紹不使用hold space 的命令,另外需要說明的是正則表達式是另一個配合使用的利器,在本文中為了不引入更大的麻煩,因此用例中盡量使用最簡答的正則表達式。

1)范圍選取

在sed中如果不指定范圍,則處理命令是針對整個標准輸入的。如需要在某個范圍內進行處理,則需要進行范圍選取。也就是命令格式中的SELSECTION。sed根據SELECTION取得相應的文本行,在這些行中根據edit-instructions進行編輯。注意,SELECTION和edit-instructions中的空格不是必須的。

SELECTION 可以如下表達

  • 單個行號:如1為取第一行,5為取第五行,$為取最后一行             
  • 行范圍:如5,$   為取從第五行到最后一行之間的文本行
  • 單個正則匹配:如/string/ 為取包含string的行
  • 一個正則匹配范圍:如/^on/,/off$/ 為取從on開頭的行到off結尾的行之間(含這兩個匹配行)所包含的文本行。
  • 行范圍與正則匹配范圍集合:如10,/man/表示從第10行到包含有man的行之間的文本
  • 除去所匹配行外的范圍:如/Llew/! 表示除了匹配Llew的行外其余的文本行

在進入處理命令前,先介紹一下本文中的幾個示例文件

phonelist:

JCHJCL01:/tmp/gnuhpc#cat phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

paths:

JCHJCL01:/tmp/gnuhpc#cat paths
/opt/virtprovider/lib
/var/adm/syslog
/usr/bin/
/usr/local/bin

config.ini:

JCHJCL01:/tmp/gnuhpc#cat config.ini
[WQMInfo]
ProxyMode=0
Proxy=
RunMode=1
LastStatisticTime=2012-06-17
RecordMode=0
RecordKeyBoard=1
RecordMouseClick=1
RecordMouseMove=0
QMPath=

[BROWSE_MODE]
ShowToolBar=0
ShowStatusBar=0
AutoCloseDialog=0
MinimizeToHide=0


[DEVELOP_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=0
MinimizeToHide=1
[RUN_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=1
MinimizeToHide=1

JCHJCL01:/tmp/gnuhpc#

 

2)打印命令

明確如何界定需要處理文本后,首先學習一個簡單的命令:打印這部分文本。

基本語法:SELSECTIONp 打印pattern space中的內容

Task1:打印包含Franklin的行

JCHJCL01:/tmp/gnuhpc#sed -n '/Franklin/p' phonelist
Franklin, Francis 704-3876

注意,選項-n 表示所有都不打印,而僅僅打印出匹配的行,可以試一試沒有這個選項的情況。回顧sed機制,它會將文本一行行放在pattern space,不管你做什么樣的后續操作、甚至不做任何編輯動作,它都會在command執行完后把pattern space打出來,這你就理解了為什么要用這個選項。

3)處理命令

a)  增改操作:

基本語法:

SELECTIONx\
text

其中斜杠后有回車,而x則為:

i 表示插入選中行前

a 表示追加在選中行之后

c 表示將選中行修改為text

Task2:在第二行前插入一個聯系人Jonney, Wang 923-3322

JCHJCL01:/tmp/gnuhpc#sed '2i\                   
> Jonney, Wang 923-3322' phonelist
Terrell, Terry 617-7989
Jonney, Wang 923-3322
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

Task3:在Martin, Marty后加入聯系人Jonney, Wang 923-3322

JCHJCL01:/tmp/gnuhpc#sed '/Martin, Marty/a\
> Jonney, Wang 923-3322' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Jonney, Wang 923-3322
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

Task3:將名字為Llewellyn的記錄都記為“BANNED”

JCHJCL01:/tmp/gnuhpc#sed '/Llewellyn/c\           
BANNED' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
BANNED
Jansen, Jan 903-3333
BANNED

b)刪除操作

基本語法:

SELECTIONd ,清除pattern space中的所有內容

Task4 刪除最后一行:

JCHJCL01:/tmp/gnuhpc#sed '$d' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333

c)替換操作:

基本語法:

'SELECTION s/old string/new string/’ 替換所選區域中第一次出現的old string

'SELECTION s/old string/new string/g’ 替換所選區域中所有的old string

'SELECTION y/string1/string2/’ 對所選區域中的string1所含字符對應替換為string2中同位置的字符,與tr命令相同。

Task5:將第一個Robin替換為Robbins

JCHJCL01:/tmp/gnuhpc#sed 's/Robin/Robbins/' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robbinsson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

Task6:將所有Rob替換為John

JCHJCL01:/tmp/gnuhpc#sed 's/Rob/John/g' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Johninson, Johnin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

Task7:將/usr/bin/中的/bin/替換為/bin

JCHJCL01:/tmp/gnuhpc#sed 's/\/bin\//\/bin/' paths
/opt/virtprovider/lib
/var/adm/syslog
/usr/bin
/usr/local/bin

在這種出現很多/的文件時需要\來進行轉義,稍微一多就容易出錯,那么采用如下的方式把替換分隔符的方式進行就好,其中感嘆號只是一個其他類字符,換做另外一個字符(例如@)也是沒有關系的:

JCHJCL01:/tmp/gnuhpc#sed 's!/bin/!/bin!' paths
/opt/virtprovider/lib
/var/adm/syslog
/usr/bin
/usr/local/bin

Task8:加密所有的1234,規則為將文件中1、2、3、4對應改為A、B、C、D:

JCHJCL01:/tmp/gnuhpc#sed 'y/1234/ABCD/' phonelist
Terrell, Terry 6A7-7989
Franklin, Francis 70D-C876
Patterson, Pat 6AD-6ABB
Robinson, Robin DAA-C7D5
Christopher, Chris C05-598A
Martin, Marty 8AD-5587
Llewellyn, Lynn CA6-6BBA
Jansen, Jan 90C-CCCC
Llewellyn, Lee 8A7-88BC

d)寫文件操作:

基本語法:'SELECTION command/w filename’

Task9:將所有Rob 改為Robbin,並將結果寫到一個叫做result 的文件中

JCHJCL01:/tmp/gnuhpc#sed 's/Rob/Robbin/gw result' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robbininson, Robbinin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823
JCHJCL01:/tmp/gnuhpc#cat result
Robbininson, Robbinin 411-3745

e)讀文件操作:

基本語法:'SELECTION command/r filename’

Task10:如果phonelist中存在Patterson,則將文件paths的內容加入到Patterson后的那一行

JCHJCL01:/tmp/gnuhpc#sed '/Patterson/r paths' phonelist
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
/opt/virtprovider/lib
/var/adm/syslog
/usr/bin/
/usr/local/bin
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

f)批處理操作:

如果要處理的很多,我們也可以將sed命令寫入一個腳本,然后運行時采用-f選項指定運行該腳本就行。請注意sed會將第一條命令執行的結果發給第二條執行,因此命令的順序尤為重要。

基本語法:sed -f scriptfile  filename

Task11:把617替換為817,把704替換為522,把411替換為235

JCHJCL01:/tmp/gnuhpc#cat subscript
s/617/817/
s/704/522/
s/411/235/
JCHJCL01:/tmp/gnuhpc#sed -f subscript phonelist
Terrell, Terry 817-7989
Franklin, Francis 522-3876
Patterson, Pat 614-6122
Robinson, Robin 235-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

也可以使用多行操作模式,基本語法為:

'SELECTION1 operation1

SELECTIONn operationn'

其實就是把多個命令用回車連起來

Task12:將Martin替換Mary,將Tearrey替換為Tearrey

JCHJCL01:/tmp/gnuhpc#sed 's/Martin/Mary/
s/Terrell/Tearrey/' phonelist
Tearrey, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Mary, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

另一種方式是使用-e選項,基本語法為:

-e ‘command1’ –e ‘command2’

同樣的任務:

JCHJCL01:/tmp/gnuhpc#sed -e 's/Martin/Mary/' -e 's/Terrell/Tearrey/' phonelist
Tearrey, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Mary, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

  

還有另外一種方法,有點類似於C語言中分號的使用:

JCHJCL01:/tmp/gnuhpc#sed 's/Martin/Mary/;s/Terrell/Tearrey/' phonelist  
Tearrey, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Mary, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

我一般習慣於采用分號,簡單也夠明了。另外,對於同一個區域,還可以使用{}進行處理:

Task13:將含有QM的行中QM改為PM,=號改為“:”

JCHJCL01:/tmp/gnuhpc#sed '/QMPath/{s/QM/PM/
> s/=/:/
> }' config.ini
[WQMInfo]
ProxyMode=0
Proxy=
RunMode=1
LastStatisticTime=2012-06-17
RecordMode=0
RecordKeyBoard=1
RecordMouseClick=1
RecordMouseMove=0
PMPath:

[BROWSE_MODE]
ShowToolBar=0
ShowStatusBar=0
AutoCloseDialog=0
MinimizeToHide=0


[DEVELOP_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=0
MinimizeToHide=1
[RUN_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=1
MinimizeToHide=1

JCHJCL01:/tmp/gnuhpc#

 

4.進階語法篇之hold space的使用

開篇提到了這個hold space,再復習一遍:Hold space 是 sed 用來暫存 pattern space 內容的一個臨時空間。在處理中,有時我們希望保留pattern space的內容在下一次進行處理,因此sed的開發者設計實現了hold space,並且提供了很多命令在pattern space和hold space之間進行復制。記憶上,g和G都是get 的意思,表示從hold space取出放回pattern space,而h和H都是hold的意思,也就是從pattern space到hlod space。

基本語法:

g :將hold space中的內容拷貝到pattern space中,原來pattern space里的內容清除

G:pattern space末尾加上換行符后將hold space中的內容append到pattern space中

h:將pattern space中的內容拷貝到hold space中,原來的hold space里的內容被清除

H:hold space末尾加上換行符后將pattern space中的內容append到hold space中

x :交換 hold space 與 pattern space 內容

Task13:倒置phonelist

我們可以拿一個簡單的文件來理清思路:

A

B

C

D

如下圖:

sed插圖1

除了第一行和最后一行處理不一樣以外(第一行只執行h,而最后一行只執行G),其余行都是用G、d和h(使用d 的原因是不把中間結果輸出)。在sed中有個操作是!,也就是編程語言中的“非”,即不執行,因此,我們可以寫出sed命令來倒置一個文件:

JCHJCL01:/tmp/gnuhpc#sed '1!G;h;$!d' phonelist
Llewellyn, Lee 817-8823
Jansen, Jan 903-3333
Llewellyn, Lynn 316-6221
Martin, Marty 814-5587
Christopher, Chris 305-5981
Robinson, Robin 411-3745
Patterson, Pat 614-6122
Franklin, Francis 704-3876
Terrell, Terry 617-7989

5.進階語法篇之元字符的使用

sed有幾個很NB的元字符,這部分往往與正則表達式一起使用能夠得到事半功倍的效果。

基本語法:

& : 代表SELECTION中匹配的部分,常用於某個子字符串前后添加字符的操作

\num : num代表匹配子字符串的序號,從1開始,\num表示匹配的子字符串(正則表達式中稱為分組),其中子字符串的匹配模式是由圓括號及其轉義字符構成。

Task 15:將每個電話號碼前加上Tel:

JCHJCL01:/tmp/gnuhpc#sed '/[0-9]\{3\}-[0-9]\{4\}/s//Tel: &/g' phonelist
Terrell, Terry Tel: 617-7989
Franklin, Francis Tel: 704-3876
Patterson, Pat Tel: 614-6122
Robinson, Robin Tel: 411-3745
Christopher, Chris Tel: 305-5981
Martin, Marty Tel: 814-5587
Llewellyn, Lynn Tel: 316-6221
Jansen, Jan Tel: 903-3333
Llewellyn, Lee Tel: 817-8823

可以看到前邊SELECTION是一個正則表達式來匹配電話號碼,也就是0-9三位數-0-9四位數這樣一個匹配邏輯,關鍵是元字符的使用,&代表了匹配的這串電話號碼,在前邊加上Tel:就是件很隨意的事情了。

Task16:電話號碼升級,從原來的四位數統一升級為五位數,6開頭。

JCHJCL01:/tmp/gnuhpc#sed 's/\([0-9]\{3\}\)-\([0-9]\{4\}\)/\1-6\2/g' phonelist
Terrell, Terry 617-67989
Franklin, Francis 704-63876
Patterson, Pat 614-66122
Robinson, Robin 411-63745
Christopher, Chris 305-65981
Martin, Marty 814-65587
Llewellyn, Lynn 316-66221
Jansen, Jan 903-63333
Llewellyn, Lee 817-68823

Task17:將paths文件中的路徑用逗號連起來。首先,將每一行都放入hold space(以\n連接起來)而這個中間過程不顯示(也就是$!d所表示的除非處理到最后一行,否則都把pattern space刪掉),隨后在到最后一行時將hold space中的內容放回pattern space(此處用了x,其實g也是可以的),並且把開頭的\n去掉后將剩余的\n替換為,最后打印。

JCHJCL01:/tmp/gnuhpc#sed 'H;$!d;${
> x
> s/^\n//
> s/\n/,/g
> }' paths
/opt/virtprovider/lib,/var/adm/syslog,/usr/bin/,/usr/local/bin

6.進階語法篇之改變處理流程操作

有時我們希望對匹配的下一行或多行進行操作,有時我們又希望在處理完畢后馬上退出(因為sed會對讀入文本的每一行進行操作,即使肉眼看起來明顯不匹配也是需要sed先把字符串load進來與SELECTION對照判斷的),此時就需要改變處理流程。

基本語法:

n:將之前讀入的行(也就是在pattern space中的行)輸出到屏幕,然后為將下一行的內容提前讀入pattern space(替換上邊已經打印的行),后續的命令會應用到新讀入的行上。

q:  使用時前邊加行號n,表示取前n行,這個在讀取大文件的前幾行時有很大的作用。

N:將下一行的內容讀取並追加到當前模式空間中(用換行符作為連接),並沒有輸出當前模式空間中的行。注意pattern space含有多行時,正則表達式符號^和$含義分別為^匹配模式空間的最開始,而$是匹配模式空間的最后位置。

D:該命令刪除模式空間中從第一個字符到第一個換行符的內容,並且跳轉到命令開頭重新執行。注意,當模式空間仍有內容時,不讀入新的輸入行,類似形成一個循環。

P:僅打印模式空間中從第一個字符到第一個換行符的內容,重新在模式空間的內容上執行編輯命令,類似形成一個循環。

:label和b label  : 標注一個標簽並跳轉。例如,下面的例子中模擬了一個if操作存在符合pattern則跳過command2直接執行command3

command1

/pattern/b goto

command2

:goto

command3

而下邊的例子則模擬了一個if else操作,符合pattern時執行command3,不符合時執行command3

command1

/pattern/b dosomething

command2

b

:dosomething

command3

Task18:將QMPath后邊的空行刪掉

JCHJCL01:/tmp/gnuhpc#sed '/QMPath/{n
> /^$/d
> }' config.ini
[WQMInfo]
ProxyMode=0
Proxy=
RunMode=1
LastStatisticTime=2012-06-17
RecordMode=0
RecordKeyBoard=1
RecordMouseClick=1
RecordMouseMove=0
QMPath=
[BROWSE_MODE]
ShowToolBar=0
ShowStatusBar=0
AutoCloseDialog=0
MinimizeToHide=0


[DEVELOP_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=0
MinimizeToHide=1
[RUN_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=1
MinimizeToHide=1

JCHJCL01:/tmp/gnuhpc#

Task19: 取一個大文件的前兩行,可以看到同樣都是取前兩行,由於file這個文件較大,最終導致效率的差別是幾十倍。

JCHJCL01:/tmp/gnuhpc#ls -l file            
-rw-r--r--    1 root     system     78888888 Jan 25 23:20 file
JCHJCL01:/tmp/gnuhpc#time sed -n '1,2p' file
1
2

real    0m0.78s
user    0m0.35s
sys     0m0.13s
JCHJCL01:/tmp/gnuhpc#time sed '2q' file    
1
2

real    0m0.01s
user    0m0.00s
sys     0m0.00s

Task20:將多個連續空行縮減為一個空行,非連續空行保留。$q表示最后一行不進行處理,因為由於前邊的處理,到了最后一行已經不會出現連續空行了。其余的處理邏輯為:匹配空行,讀入下一行,發現下一行還是空行后刪除第一個空行然后繼續讀、處理直到下一行不是空行為止。

JCHJCL01:/tmp/gnuhpc#

sed '/^$/{$q
N
/^\n$/D
}' config.ini
[WQMInfo]
ProxyMode=0
Proxy=
RunMode=1
LastStatisticTime=2012-06-17
RecordMode=0
RecordKeyBoard=1
RecordMouseClick=1
RecordMouseMove=0
QMPath=

[BROWSE_MODE]
ShowToolBar=0
ShowStatusBar=0
AutoCloseDialog=0
MinimizeToHide=0

[DEVELOP_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=0
MinimizeToHide=1
[RUN_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=1
MinimizeToHide=1

JCHJCL01:/tmp/gnuhpc#

6.sed技巧拾零篇

本來想介紹一下正則表達,無奈太博大精深,幾個例子也說明不了太多,因此正則表達部分可以參考sed手冊,里面有比較詳盡的講解。此處舉一些常用和手冊上沒有提及的用例。

[:alnum:]:表示所有的字母和數字

[:digit:]: 表示所有數字

[:upper:]: 表示所有的大寫字母

[:lower:] :表示所有的小寫字母

Task21:去掉config.ini中的數字,使得config.ini變為一個配置文件模板

JCHJCL01:/tmp/gnuhpc#sed 's/[[:digit:]]//g' config.ini
[WQMInfo]
ProxyMode=
Proxy=
RunMode=
LastStatisticTime=--
RecordMode=
RecordKeyBoard=
RecordMouseClick=
RecordMouseMove=
QMPath=

[BROWSE_MODE]
ShowToolBar=
ShowStatusBar=
AutoCloseDialog=
MinimizeToHide=


[DEVELOP_MODE]
ShowToolBar=
ShowStatusBar=
AutoCloseDialog=
MinimizeToHide=
[RUN_MODE]
ShowToolBar=
ShowStatusBar=
AutoCloseDialog=
MinimizeToHide=

利用SELECTION進行取符合匹配條件的連續多行:

Task22:取得config.ini中WQMInfo段

JCHJCL01:/tmp/gnuhpc#sed -n '/WQMInfo/,/^$/p' config.ini
[WQMInfo]
ProxyMode=0
Proxy=
RunMode=1
LastStatisticTime=2012-06-17
RecordMode=0
RecordKeyBoard=1
RecordMouseClick=1
RecordMouseMove=0
QMPath=

取匹配條件的上N行和下N行:

Task23:取得通訊錄中Martin上邊的一個人的記錄,讀入下一行到模式空間,並且判斷是否包含Lynn,如果匹配,則打印模式空間中的第一行,如果不匹配,則刪除模式空間的第一行,循環處理。

JCHJCL01:/tmp/gnuhpc#sed -n '$!N;/Lynn/!D;/Lynn/P' phonelist 

Martin, Marty 814-5587

Task24:取得Martin上邊包含Martin的所有人記錄:

JCHJCL01:/tmp/gnuhpc#sed -n '1,/Martin/p' phonelist  
Terrell, Terry 617-7989
Franklin, Francis 704-3876
Patterson, Pat 614-6122
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587

Task25:取得Martin上邊包含Martin的三條記錄:

JCHJCL01:/tmp/gnuhpc#sed -n '1,/Martin/p' phonelist | tail -3
Robinson, Robin 411-3745
Christopher, Chris 305-5981
Martin, Marty 814-5587

Task26:取得通訊錄中Martin下邊的一個人的記錄:

JCHJCL01:/tmp/gnuhpc#sed -n '/Martin/{n
> p
> }' phonelist
Llewellyn, Lynn 316-6221

Task27:取得Martin下邊包含Martin的所有人記錄:

JCHJCL01:/tmp/gnuhpc#sed -n '/Martin/,$p' phonelist
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333
Llewellyn, Lee 817-8823

 

Task28:取得Martin下邊包含Martin的三條記錄:

JCHJCL01:/tmp/gnuhpc#sed -n '/Martin/,$p' phonelist | head -3
Martin, Marty 814-5587
Llewellyn, Lynn 316-6221
Jansen, Jan 903-3333

注釋掉某些行:

Task29:假設ini文件行注釋為前后兩個感嘆號,請注釋掉RecordMouseMove

JCHJCL01:/tmp/gnuhpc#sed 's/^RecordMouseMove.*/!!&!!/' config.ini
[WQMInfo]
ProxyMode=0
Proxy=
RunMode=1
LastStatisticTime=2012-06-17
RecordMode=0
RecordKeyBoard=1
RecordMouseClick=1
!!RecordMouseMove=0!!
QMPath=

[BROWSE_MODE]
ShowToolBar=0
ShowStatusBar=0
AutoCloseDialog=0
MinimizeToHide=0


[DEVELOP_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=0
MinimizeToHide=1
[RUN_MODE]
ShowToolBar=1
ShowStatusBar=1
AutoCloseDialog=1
MinimizeToHide=1

Task30:假設paths文件用#進行注釋,則注釋掉含有usr的行

JCHJCL01:/tmp/gnuhpc#sed 's/.*usr.*/#&/' paths
/opt/virtprovider/lib
/var/adm/syslog
#/usr/bin/
#/usr/local/bin

一個更簡單的方法是:

JCHJCL01:/tmp/gnuhpc#sed '/usr/s/^/#/' paths
/opt/virtprovider/lib
/var/adm/syslog
#/usr/bin/
#/usr/local/bin

Task31:在paths中每行加一個行號和冒號

JCHJCL01:/tmp/gnuhpc#sed = paths  | sed 'N;s/\n/:/'
1:/opt/virtprovider/lib
2:/var/adm/syslog
3:/usr/bin/
4:/usr/local/bin

Task32: 處理XML

JCHJCL01:/tmp/gnuhpc#echo "<Amount>10kg</Amount>" | sed 's#\(<Amount>\)[0-9,a-z]*\(</Amount>\)#\1'100kg'\2#g'
<Amount>100kg</Amount>

Task33:替代一行中多個匹配模式中的其中一個。對於下邊的解釋:前者替換倒數第二個匹配;后者替換最后一個匹配 。

sed 's/(.*)foo(.*foo)/1bar2/ test.txt

sed 's/(.*)foo/1bar/' test.txt

Task34:刪除paths的最后2行,在讀入第一行后,使用N讀入一行,並且如果新讀入的下一行不是最后一行,則打印模式空間中的第一行,並且刪除,然后接着執行N;如果新讀入的一行是文件的最后一行,則刪除模式空間中的所有內容(此時pattern space中即為倒數兩行)。

JCHJCL01:/tmp/gnuhpc#sed 'N;$!P;$!D;$d' paths
/opt/virtprovider/lib
/var/adm/syslog

 

小結篇

本文已幾個文本文件為例子,說明了sed的基本用法指南,由於我本人傾向於腳本要具有高度的可移植性,另外同一個任務不一定都要交給一個工具完成,多個工具配合使用,在不太考慮性能的前提下,simpler better,因此諸多高級用法和GNU sed的用法均在此文沒有涉及。

作者:gnuhpc
出處:http://www.cnblogs.com/gnuhpc/


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM