為了給網絡協議的設計提供一個結構，網絡設計者以分層(layer)的方式組織協議以及實現這些協議的網絡硬件和軟件。協議分層具有概念化和結構化的有點。但是，分層的一個潛在缺點是某層可能重復其較低層的功能。例如：許多協議棧都基於鏈路和端到端這兩種情況提供了差錯恢復。第二種潛在的缺點是某層的功能可能需要僅在其它層才出現的信息(如時間戳)，這違反了層次分離的目標。
將這些綜合起來，各層的所有協議被稱為協議棧。因特網的協議棧由5個層次組成：物理層、鏈路層、網絡層、運輸層、應用層。
1.應用層
應用層是網絡應用程序及其應用層協議存留的地方。因特網的應用層包括許多協議，例如HTTP、SMTP、FTP、DNS等。應用層協議分布在多個端系統上，一個端系統中的應用程序使用協議與另一個端系統中的應用程序交換信息分組。我們將這種位於應用層的信息分組成為報文。
2.運輸層
運輸層提供了在應用程序(進程)端點之間傳送應用層報文的服務。在因特網中，有兩個運輸層協議，即TCP和UDP。TCP向它的應用程序提供了面向連接的服務，提供可靠性和流量控制。TCP也將長報文划分為短報文，並提供擁塞控制機制。UDP協議向它的應用程序提供了無連接服務，不提供可靠性，沒有流量控制和擁塞控制。我們稱運輸層分組為報文段。
3.網絡層
網絡層負責將數據報(網絡層分組)從一台主機移動到另一台主機。源主機中的運輸層協議向網絡層遞交運輸層報文段和目的地址。網絡層包括著名的IP協議，該協議定義了數據報中的各個字段以及端系統和路由器如何作用於這些字段。僅有一個IP協議，所以具有網絡層的因特網組件都必須運行IP協議。因特網的網絡層也包括決定路由的選路協議，數據報根據該路從源傳輸到目的地。盡管網絡層包括了IP協議和一些選路協議，但它經常只被稱為IP層。
4.鏈路層
因特網的網絡層通過一系列路由器在源和目的地之間發送分組。為了將分組從一個節點(主機或路由器)移動到路徑上的下一個節點，網絡層必須依靠鏈路層的服務。特別是在每一個節點，網絡層將數據報下傳給鏈路層，鏈路層沿着路徑將數據報傳遞給下一個節點。在該下個節點，鏈路層將數據報上傳給網絡層。鏈路層提供的服務取決於應用於該鏈路的特定鏈路層協議。鏈路層分組稱為幀(frame)。
5.物理層
鏈路層的任務是將整個幀從一個網絡元素移動到臨近的網絡元素，而物理層的任務是將該幀中的一個一個bit從一個節點移動到下一個節點，其協議與實際傳輸媒體相關。