Giao thức không gì khác ngoài tập quy tắc được tuân theo bởi các thực thể truyền thông cho truyền dữ liệu.
Giao thức phụ thuộc vào:
Cú pháp (Syntax) - Định dạng dữ liệu gửi/nhận.
Ngữ nghĩa (Semantics) - Ý nghĩa từng phần bit được truyền.
Thời gian (Timings) - Thời điểm truyền dữ liệu và tốc độ truyền.
Truyền thông giữa máy tính trên Internet được định nghĩa bởi các giao thức khác nhau. Giao thức TCP (Transmission Control Protocol) và IP (Internet Protocol) xây dựng cơ sở truyền thông Internet. Kết hợp TCP và IP gọi là giao thức TCP/IP - hệ thống tiêu chuẩn dùng hầu hết mạng lớn.
Trước khi thảo luận từng giao thức trong hệ cấp độ, minh họa vị trí mỗi giao thức liên quan đến các giao thức khác trong hệ cấp độ giao thức.

Hệ cấp độ giao thức (Protocol Hierarchies)
Giao thức là tiêu chuẩn điều khiển/cho phép kết nối, truyền thông, truyền dữ liệu giữa các điểm cuối tính toán. Giao thức triển khai bằng phần cứng, phần mềm, hoặc kết hợp.
Thường để giảm độ phức tạp thiết kế phần mềm mạng, hầu hết mạng tổ chức thành chuỗi "lớp" (layers) hoặc "cấp độ" (levels). Số lớp khác nhau, tên mỗi lớp, chức năng mỗi lớp khác nhau mạng này sang mạng khác.
Mục đích mỗi lớp: cung cấp dịch vụ xác định cho các lớp cao hơn, che giấu các lớp đó khỏi chi tiết cách dịch vụ thực hiện.
Lớp n trên máy này trò chuyện với lớp n trên máy kia, quy tắc và quy ước dùng trong cuộc trò chuyện này gọi chung là "giao thức" lớp n.
Giao thức là thỏa thuận giữa các bên truyền thông về cách truyền thông tiến hành.
Cấu trúc giao thức 5 lớp
Cấu trúc giao thức 5 lớp như sau:

Bước 1 - Thực thể trên các lớp khác nhau gọi là đối tác (peers) trên các máy khác nhau.
Bước 2 - Không dữ liệu truyền trực tiếp từ lớp n máy này sang lớp n máy kia.
Bước 3 - Mỗi lớp truyền dữ liệu và thông tin điều khiển xuống lớp dưới, cho đến lớp thấp nhất.
Bước 4 - Dưới lớp 1 là "trung gian vật lý" (physical medium) nơi truyền thông thực tế xảy ra.
Bước 5 - Trong hình trên, truyền thông ảo hiển thị đường nét đứt, truyền thông vật lý đường nét liền.
Bước 6 - Giữa mỗi cặp lớp liền kề có "giao diện" (interface), định nghĩa phép toán/dịch vụ lớp dưới cung cấp lớp trên qua nó.
Bước 7 - Danh sách giao thức dùng hệ thống (một giao thức mỗi lớp) gọi là "ngăn xếp giao thức" (protocol stack).
Xét cách cung cấp truyền thông cho lớp trên cùng mạng 5 lớp:

Ở đây:
Thông điệp M tạo bởi tiến trình ứng dụng chạy lớp 5, đưa cho lớp 4 truyền.
Lớp 4 thêm "header" trước M nhận diện thông điệp, truyền kết quả cho lớp 3.
Nhiều mạng, không giới hạn kích thước thông điệp giao thức lớp 4, nhưng gần như luôn có giới hạn lớp 3.
Do đó lớp 3 phải chia thông điệp đến thành đơn vị nhỏ (gói tin) thêm header lớp 3 mỗi gói.
Ví dụ thông điệp M chia 2 phần M1, M2.
Lớp 3 quyết định đường truyền ra dùng và truyền gói cho lớp 2.
Lớp 2 thêm header và trailer mỗi gói, kết quả cho lớp 1 truyền vật lý.
Máy nhận, thông điệp di chuyển lên từ lớp lên lớp, header bị bóc tách khi tiến tới khi thông điệp M đến lớp ứng dụng 5.