by falcon<zhangjinw@gmail.com>
2008-02-22
平時在Linux下寫代碼,直接用"gcc -o out in.c"就把代碼編譯好了,但是這后面到底做了什么事情呢?如果學習過編譯原理則不難理解,一般高級語言程序編譯的過程莫過於:預處理、編譯、匯編、鏈接。gcc在后台實際上也經歷了這幾個過程,我們可以通過-v參數查看它的編譯細節,如果想看某個具體的編譯過程,則可以分別使用-E,-S,-c和 -O,對應的后台工具則分別為cpp,cc1,as,ld。下面我們將逐步分析這幾個過程以及相關的內容,諸如語法檢查、代碼調試、匯編語言等。
1、預處理
開篇簡述:預處理是C語言程序從源代碼變成可執行程序的第一步,主要是C語言編譯器對各種預處理命令進行處理,包括頭文件的包含、宏定義的擴展、條件編譯的選擇等。
以前沒怎么“深入”預處理,腦子對這些東西總是很模糊,只記得在編譯的基本過程(詞法分析、語法分析)之前還需要對源代碼中的宏定義、文件包含、條件編譯等命令進行處理。這三類的指令很常見,主要有#define, #include和#ifdef ... #endif,要特別地注意它們的用法。(更多預處理的指令請查閱相關資料)
#define除了可以獨立使用以便靈活設置一些參數外,還常常和#ifdef ... #endif結合使用,以便靈活地控制代碼塊的編譯與否,也可以用來避免同一個頭文件的多次包含。關於#include貌似比較簡單,通過man找到某個函數的頭文件,copy進去,加上<>就okay。這里雖然只關心一些技巧,不過預處理還是蘊含着很多潛在的陷阱(可參考<C Traps & Pitfalls>),我們也需要注意的。下面僅介紹和預處理相關的幾個簡單內容。
- 打印出預處理之后的結果:gcc -E hello.c
這樣我們就可以看到源代碼中的各種預處理命令是如何被解釋的,從而方便理解和查錯。
實際上gcc在這里是調用了cpp的(雖然我們通過gcc的-v僅看到cc1),cpp即The C Preprocessor,主要用來預處理宏定義、文件包含、條件編譯等。下面介紹它的一個比較重要的選項-D。 - 在命令行定義宏:gcc -Dmacro hello.c
等同於在文件的開頭定義宏,即#define maco,但是在命令行定義更靈活。例如,在源代碼中有這些語句。
#ifdef DEBUG
printf("this code is for debugging\n");
#endif
如果編譯時加上-DDEBUG選項,那么編譯器就會把printf所在的行編譯進目標代碼,從而方便地跟蹤該位置的某些程序狀態。這樣-DDEBUG就可以當作一個調試開關,編譯時加上它就可以用來打印調試信息,發布時則可以通過去掉該編譯選項把調試信息去掉。
本節參考資料:
[1] C語言教程第九章:預處理
http://www.bc-cn.net/Article/kfyy/cyy/jc/200409/9.html
[2] 更多
http://www.hemee.com/kfyy/c/6626.html
http://www.91linux.com/html/article/program/cpp/20071203/8745.html
http://www.janker.org/bbs/programmer/2006-10-13/327.html
2、編譯(翻譯)
開篇簡要:編譯之前,C語言編譯器會進行詞法分析、語法分析(-fsyntax-only),接着會把源代碼翻譯成中間語言,即匯編語言。如果想看到這個中間結果,可以用-S選項。需要提到的是,諸如shell等解釋語言也會經歷一個詞法分析和語法分析的階段,不過之后並不會進行“翻譯”,而是“解釋”,邊解釋邊執行。
************************
A、解釋程序
所謂解釋程序是高級語言翻譯程序的一種,它將源語言(如BASIC)書寫的源程序作為輸入,解釋一句后就提交計算機執行一句,並不形成目標程序。就像外語翻譯中的“口譯”一樣,說一句翻一句,不產生全文的翻譯文本。這種工作方式非常適合於人通過終端設備與計算機會話,如在終端上打一條命令或語句,解釋程序就立即將此語句解釋成一條或幾條指令並提交硬件立即執行且將執行結果反映到終端,從終端把命令打入后,就能立即得到計算結果。這的確是很方便的,很適合於一些小型機的計算問題。但解釋程序執行速度很慢,例如源程序中出現循環,則解釋程序也重復地解釋並提交執行這一組語句,這就造成很大浪費。
B、編譯程序
這是一類很重要的語言處理程序,它把高級語言(如FORTRAN、COBOL、Pascal、C等)源程序作為輸入,進行翻譯轉換,產生出機器語言的目標程序,然后再讓計算機去執行這個目標程序,得到計算結果。
編譯程序工作時,先分析,后綜合,從而得到目標程序。所謂分析,是指詞法分析和語法分析;所謂綜合是指代碼優化,存儲分配和代碼生成。為了完成這些分析綜合任務,編譯程序采用對源程序進行多次掃描的辦法,每次掃描集中完成一項或幾項任務,也有一項任務分散到幾次掃描去完成的。下面舉一個四遍掃描的例子:第一遍掃描做詞法分析;第二遍掃描做語法分析;第三遍掃描做代碼優化和存儲分配;第四遍掃描做代碼生成。
值得一提的是,大多數的編譯程序直接產生機器語言的目標代碼,形成可執行的目標文件,但也有的編譯程序則先產生匯編語言一級的符號代碼文件,然后再調用匯編程序進行翻譯加工處理,最后產生可執行的機器語言目標文件。
在實際應用中,對於需要經常使用的有大量計算的大型題目,采用招待速度較快的編譯型的高級語言較好,雖然編譯過程本身較為復雜,但一旦形成目標文件,以后可多次使用。相反,對於小型題目或計算簡單不太費機時的題目,則多選用解釋型的會話式高級語言,如BASIC,這樣可以大大縮短編程及調試的時間
************************
把源代碼翻譯成匯編語言,實際上是編譯的整個過程中的第一個階段,之后的階段和匯編語言的開發過程沒有什么區別。這個階段涉及到對源代碼的詞法分析、語法檢查(通過-std指定遵循哪個標准),並根據優化(-O)要求進行翻譯成匯編語言的動作。
如果僅僅希望進行語法檢查,可以用-fsyntax-only選項;而為了使代碼有比較好的移植性,避免使用gcc的一些特性,可以結合-std和 -pedantic(或者-pedantic-erros)選項讓源代碼遵循某個C語言標准的語法。這里演示一個簡單的例子。
$ cat hello.c |
語法錯誤是程序開發過程中難以避免的錯誤(人的大腦在很多條件下都容易開小差),不過編譯器往往能夠通過語法檢查快速發現這些錯誤,並准確地告訴你語法錯誤的大概位置。因此,作為開發人員,要做的事情不是“恐慌”(不知所措),而是認真閱讀編譯器的提示,根據平時積累的經驗(最好在大腦中存一份常見語法錯誤索引,很多資料都提供了常見語法錯誤列表,如<C Traps&Pitfalls>和最后面的參考資料[12]也列出了很多常見問題)和編輯器提供的語法檢查功能(語法加亮、括號匹配提示等)快速定位語法出錯的位置並進行修改。
語法檢查之后就是翻譯動作,gcc提供了一個優化選項-O,以便根據不同的運行平台和用戶要求產生經過優化的匯編代碼。例如,
$ gcc -o hello hello.c #采用默認選項,不優化 |
根據上面的簡單演示,可以看出gcc有很多不同的優化選項,主要看用戶的需求了,目標代碼的大小和效率之間貌似存在一個“糾纏”,需要開發人員自己權衡。
下面我們通過-S選項來看看編譯出來的中間結果,匯編語言,還是以之前那個hello.c為例。
$ gcc -S hello.c #默認輸出是hello.s,可自己指定,輸出到屏幕-o -,輸出到其他文件-o file |
不知道看出來沒?和我們在課堂里學的intel的匯編語法不太一樣,這里用的是AT&T語法格式。如果之前沒接觸過AT&T的,可以看看參考資料[2]。如果想學習Linux下的匯編語言開發,從下一節開始哦,下一節開始的所有章節基本上覆蓋了Linux下匯編語言開發的一般過程,不過這里不介紹匯編語言語法。
這里需要補充的是,在寫C語言代碼時,如果能夠對編譯器比較熟悉(工作原理和一些細節)的話,可能會很有幫助。包括這里的優化選項(有些優化選項可能在匯編時采用)和可能的優化措施,例如字節對齊(可以看看這本書"Linux_Assembly_Language_Programming"的第六小節)、條件分支語句裁減(刪除一些明顯分支)等。
本節參考資料
[1] Guide to Assembly Language Programming in Linux(pdf教程,社區有下載)
http://oss.lzu.edu.cn/modules/wfdownloads/singlefile.php?cid=5&lid=94
[2] Linux匯編語言開發指南(在線):
http://www.ibm.com/developerworks/cn/linux/l-assembly/index.html
[3] PowerPC 匯編
http://www.ibm.com/developerworks/cn/linux/hardware/ppc/assembly/index.html
[4] 用於 Power 體系結構的匯編語言
http://www.ibm.com/developerworks/cn/linux/l-powasm1.html
[5] Linux Assembly HOWTO
http://mirror.lzu.edu.cn/tldp/HOWTO/Assembly-HOWTO/
[6] Linux 中 x86 的內聯匯編
http://www.ibm.com/developerworks/cn/linux/sdk/assemble/inline/index.html
[7] Linux Assembly Language Programming
http://mirror.lzu.edu.cn/doc/incoming/ebooks/linux-unix/Linux_EN_Original_Books
3、匯編
開篇:這里實際上還是翻譯過程,只不過把作為中間結果的匯編代碼翻譯成了機器代碼,即目標代碼,不過它還不可以運行。如果要產生這一中間結果,可用gcc的-c選項,當然,也可通過as命令_匯編_匯編語言源文件來產生。
匯編是把匯編語言翻譯成目標代碼的過程,在學習匯編語言開發時,大家應該比較熟悉nasm匯編工具(支持Intel格式的匯編語言)了,不過這里主要用 as匯編工具來匯編AT&T格式的匯編語言,因為gcc產生的中間代碼就是AT&T格式的。下面來演示分別通過gcc的-c選項和as來產生目標代碼。
Quote: |
$ file hello.s |
gcc和as默認產生的目標代碼都是ELF格式[6]的,因此這里主要討論ELF格式的目標代碼(如果有時間再回顧一下a.out和coff格式,當然你也可以參考資料[15],自己先了解一下,並結合objcopy來轉換它們,比較異同)。
目標代碼不再是普通的文本格式,無法直接通過文本編輯器瀏覽,需要一些專門的工具。如果想了解更多目標代碼的細節,區分relocatable(可重定位)、executable(可執行)、shared libarary(共享庫)的不同,我們得設法了解目標代碼的組織方式和相關的閱讀和分析工具。下面我們主要介紹這部分內容。
"BFD is a package which allows applications to use the same routines to operate on object files whatever the object file format. A new object file format can be supported simply by creating a new BFD back end and adding it to the library."[24][25]。
binutils(GNU Binary Utilities)的很多工具都采用這個庫來操作目標文件,這類工具有objdump,objcopy,nm,strip等(當然,你也可以利用它。如果你深入了解ELF格式,那么通過它來分析和編寫Virus程序將會更加方便),不過另外一款非常優秀的分析工具readelf並不是基於這個庫,所以你也應該可以直接用elf.h頭文件中定義的相關結構來操作ELF文件。
下面將通過這些輔助工具(主要是readelf和objdump,可參考本節最后列出的資料[4]),結合ELF手冊[6](建議看第三篇中文版)來分析它們。
下面大概介紹ELF文件的結構和三種不同類型ELF文件的區別。
ELF文件的結構:
ELF Header(ELF文件頭)
Porgram Headers Table(程序頭表,實際上叫段表好一些,用於描述可執行文件和可共享庫)
Section 1
Section 2
Section 3
...
Section Headers Table(節區頭部表,用於鏈接可重定位文件成可執行文件或共享庫)
對於可重定位文件,程序頭是可選的,而對於可執行文件和共享庫文件(動態連接庫),節區表則是可選的。這里的可選是指沒有也可以。可以分別通過 readelf文件的-h,-l和-S參數查看ELF文件頭(ELF Header)、程序頭部表(Program Headers Table,段表)和節區表(Section Headers Table)。
文件頭說明了文件的類型,大小,運行平台,節區數目等。先來通過文件頭看看不同ELF的類型。為了說明問題,先來幾段代碼吧。
Code:
[Ctrl+A Select All]
Code:
[Ctrl+A Select All]
Code:
[Ctrl+A Select All]
下面通過這幾段代碼來演示通過readelf -h參數查看ELF的不同類型。期間將演示如何創建動態連接庫(即可共享文件)、靜態連接庫,並比較它們的異同。
Quote: |
$ gcc -c myprintf.c test.c #編譯產生兩個目標文件myprintf.o和test.o,它們都是可重定位文件(REL) |
經過上面的演示基本可以看出它們之間的不同。可重定位文件本身不可以運行,僅僅是作為可執行文件、靜態連接庫(也是可重定位文件)、動態連接庫的 “組件”。靜態連接庫和動態連接庫本身也不可以執行,作為可執行文件的“組件”,它們兩者也不同,前者也是可重定位文件(只不過可能是多個可重定位文件的集合),並且在連接時加入到可執行文件中去;而動態連接庫在連接時,庫文件本身並沒有添加到可執行文件中,只是在可執行文件中加入了該庫的名字等信息,以便在可執行文件運行過程中引用庫中的函數時由動態連接器去查找相關函數的地址,並調用它們。從這個意義上說,動態連接庫本身也具有可重定位的特征,含有可重定位的信息。對於什么是重定位?如何進行靜態符號和動態符號的重定位,我們將在鏈接部分和《動態符號鏈接的細節》一節介紹。
下面來看看ELF文件的主體內容,節區(Section)。ELF文件具有很大的靈活性,它通過文件頭組織整個文件的總體結構,通過節區表 (Section Headers Table)和程序頭(Program Headers Table或者叫段表)來分別描述可重定位文件和可執行文件。但不管是哪種類型,它們都需要它們的主體,即各種節區。在可重定位文件中,節區表描述的就是各種節區本身;而在可執行文件中,程序頭描述的是由各個節區組成的段(Segment),以便程序運行時動態裝載器知道如何對它們進行內存映像,從而方便程序加載和運行。
下面先來看看一些常見的節區,而關於這些節區(section)如何通過重定位構成成不同的段(Segments),以及有哪些常規的段,我們將在鏈接部分進一步介紹。
可以通過readelf的-S參數查看ELF的節區。(建議一邊操作一邊看文檔,以便加深對ELF文件結構的理解)先來看看可重定位文件的節區信息,通過節區表來查看:
Quote: |
$ gcc -c myprintf.c #默認編譯好myprintf.c,將產生一個可重定位的文件myprintf.o |
從上表可以看出,對於可重定位文件,會包含這些基本節區.text, .rel.text, .data, .bss, .rodata, .comment, .note.GNU-stack, .shstrtab, .symtab和.strtab。為了進一步理解這些節區和源代碼的關系,這里來看一看myprintf.c產生的匯編代碼。
Quote: |
$ gcc -S myprintf.c |
是不是可以從中看出可重定位文件中的那些節區和匯編語言代碼之間的關系?在上面的可重定位文件,可以看到有一個可重定位的節區,即. rel.text,它標記了兩個需要重定位的項,.rodata和puts。這個節區將告訴編譯器這兩個信息在鏈接或者動態鏈接的過程中需要重定位,具體如何重定位?將根據重定位項的類型,比如上面的R_386_32和R_386_PC32(關於這些類型的更多細節,請查看ELF手冊[6])。
到這里,對可重定位文件應該有了一個基本的了解,下面將介紹什么是可重定位,可重定位文件到底是如何被鏈接生成可執行文件和動態連接庫的,這個過程除了進行了一些符號的重定位外,還進行了哪些工作呢?
本節參考資料:
[1] 了解編譯程序的過程
http://9iyou.com/Program_Data/linuxunix-3125.html
http://www.host01.com/article/server/00070002/0621409075078127.htm
[2] C track: compiling C programs.
http://www.cs.caltech.edu/courses/cs11/material/c/mike/misc/compiling_c.html
[3] Dissecting shared libraries
http://www.ibm.com/developerworks/linux/library/l-shlibs.html
4、鏈接
開篇:重定位是將符號引用與符號定義進行鏈接的過程。因此鏈接是處理可重定位文件,把它們的各種符號引用和符號定義轉換為可執行文件中的合適信息(一般是虛擬內存地址)的過程。鏈接又分為靜態鏈接和動態鏈接,前者是程序開發階段程序員用ld(gcc實際上在后台調用了ld)靜態鏈接器手動鏈接的過程,而動態鏈接則是程序運行期間系統調用動態鏈接器(ld-linux.so)自動鏈接的過程。比如,如果鏈接到可執行文件中的是靜態連接庫libmyprintf.a,那么. rodata節區在鏈接后需要被重定位到一個絕對的虛擬內存地址,以便程序運行時能夠正確訪問該節區中的字符串信息。而對於puts,因為它是動態連接庫libc.so中定義的函數,所以會在程序運行時通過動態符號鏈接找出puts函數在內存中的地址,以便程序調用該函數。在這里主要討論靜態鏈接過程,動態鏈接過程見《動態符號鏈接的細節》。
靜態鏈接過程主要是把可重定位文件依次讀入,分析各個文件的文件頭,進而依次讀入各個文件的節區,並計算各個節區的虛擬內存位置,對一些需要重定位的符號進行處理,設定它們的虛擬內存地址等,並最終產生一個可執行文件或者是動態鏈接庫。這個鏈接過程是通過ld來完成的,ld在鏈接時使用了一個鏈接腳本(linker script),該鏈接腳本處理鏈接的具體細節。由於靜態符號鏈接過程非常復雜,特別是計算符號地址的過程,考慮到時間關系,相關細節請參考ELF手冊[6]。這里主要介紹可重定位文件中的節區(節區表描述的)和可執行文件中段(程序頭描述的)的對應關系以及gcc編譯時采用的一些默認鏈接選項。
下面先來看看可執行文件的節區信息,通過程序頭(段表)來查看:
Quote: |
$ readelf -S test.o #為了比較,先把test.o的節區表也列出 |
上表給出了可執行文件的如下幾個段(segment),
PHDR: 給出了程序表自身的大小和位置,不能出現一次以上。
INTERP: 因為程序中調用了puts(在動態鏈接庫中定義),使用了動態連接庫,因此需要動態裝載器/鏈接器(ld-linux.so)
LOAD: 包括程序的指令,.text等節區都映射在該段,只讀(R)
LOAD: 包括程序的數據,.data, .bss等節區都映射在該段,可讀寫(RW)
DYNAMIC: 動態鏈接相關的信息,比如包含有引用的動態連接庫名字等信息
NOTE: 給出一些附加信息的位置和大小
GNU_STACK: 這里為空,應該是和GNU相關的一些信息
這里的段可能包括之前的一個或者多個節區,也就是說經過鏈接之后原來的節區被重排了,並映射到了不同的段,這些段將告訴系統應該如何把它加載到內存中。
從上表中,通過比較可執行文件(test)中擁有的節區和可重定位文件(test.o和myprintf.o)中擁有的節區后發現,鏈接之后多了一些之前沒有的節區,這些新的節區來自哪里?它們的作用是什么呢?先來通過gcc的-v參數看看它的后台鏈接過程。
Quote: |
$ gcc -v -o test test.o myprintf.o #把可重定位文件鏈接成可執行文件 |
從上邊的演示看出,gcc在連接了我們自己的目標文件test.o和myprintf.o之外,還連接了crt1.o,crtbegin.o等額外的目標文件,難道那些新的節區就來自這些文件?
另外gcc在進行了相關配置(./configure)后,調用了collect2,卻並沒有調用ld,通過查找gcc文檔中和collect2相關的部分發現collect2在后台實際上還是去尋找ld命令的。為了理解gcc默認連接的后台細節,這里直接把collect2替換成ld,並把一些路徑換成絕對路徑或者簡化,得到如下的ld命令以及執行的效果。
Quote: |
$ ld --eh-frame-hdr \ |
不出我們所料,它完美的運行了。下面通過ld的手冊(man ld)來分析一下這幾個參數。
--eh-frame-hdr
要求創建一個.eh_frame_hdr節區(貌似目標文件test中並沒有這個節區,所以不關心它)。
Quote: |
$ ld -m elf_i386 -dynamic-linker /lib/ld-linux.so.2 -o test /usr/lib/crt1.o /usr/lib/crti.o test.o myprintf.o -L/usr/lib -lc /usr/lib/crtn.o #后面發現不用鏈接libgcc,也不用--eh-frame-hdr參數 |
Quote: |
$ ld -m elf_i386 -dynamic-linker /lib/ld-linux.so.2 -o test /usr/lib/crt1.o test.o myprintf.o -L/usr/lib/ -lc |
Quote: |
$ readelf -s /usr/lib/crt1.o | grep __libc_csu_init |
Quote: |
$ ld -m elf_i386 -dynamic-linker /lib/ld-linux.so.2 -o test test.o myprintf.o -L/usr/lib/ -lc |
Quote: |
$ ./test |
Quote: |
« 結合"hello world"探討gcc編譯程序的過程 |