Bạn nhấp vào một liên kết và chờ. Trang web mất một giây để tải. Độ trễ đó được gọi là độ trễ mạng (latency) — thời gian giữa một lệnh và phản hồi. Nó được đo bằng mili giây. Độ trễ mạng thấp cho cảm giác tức thì. Độ trễ mạng cao cho cảm giác chậm chạp. Đối với chơi game, gọi video và giao dịch tài chính, độ trễ mạng quan trọng hơn băng thông.

Độ trễ xuất phát từ nhiều nguyên nhân. Khoảng cách là một trong số đó. Dữ liệu truyền đi với tốc độ ánh sáng trong cáp quang, nhưng thế giới rất rộng lớn. Một chuyến đi khứ hồi từ New York đến London mất ít nhất khoảng 60 mili giây. Thời gian xử lý tại các bộ định tuyến và máy chủ còn làm tăng thêm độ trễ. Tình trạng tắc nghẽn mạng càng làm cho vấn đề trở nên tồi tệ hơn.

Nguyên nhân gây ra độ trễ

• Độ trễ lan truyền: thời gian để tín hiệu truyền đi
• Độ trễ truyền tải: thời gian để đẩy dữ liệu lên đường truyền.
• Độ trễ xử lý: thời gian để bộ định tuyến chuyển tiếp các gói tin.
• Thời gian chờ đợi trong hàng đợi: thời gian chờ trong bộ đệm

Mạng phân phối nội dung (CDN) giảm độ trễ bằng cách lưu trữ dữ liệu gần người dùng hơn. Điện toán biên (edge ​​computing) đẩy quá trình xử lý đến rìa mạng. Đối với xe tự lái và phẫu thuật từ xa, mỗi mili giây đều rất quan trọng. Độ trễ không chỉ là sự bất tiện. Nó còn có thể là vấn đề an toàn.