Một số con số về thời gian trễ mà lập trình viên cần biết

Trong một hệ thống, khi chúng có trao đổi thông tin với nhau thì chắc chắn rằng việc trao đổi thông tin đó có gây ra một khoảng thời gian trễ, tùy vào từng hệ thống và cách thức giao tiếp mà thời gian trễ này ít hay nhiều.

Như trong bảng dưới đây, người ta đã liệt kê độ trễ trung bình khi tương tác dữ liệu giữa chúng. Ví dụ như cache L1 và L2 là 2 bộ nhớ đệm chính khi đưa dữ liệu vào ra CPU, do vậy cần có tốc độ rất cao -> yêu cầu độ trễ là cực kỳ thấp (chỉ vài nano giây).

Bạn có thể thấy kỹ hơn với từng hoạt động có độ trễ trung bình tương ứng trong bảng sau.

Hoạt động Thời gian trễ
L1 cache reference 0.5 ns
Branch mispredict 5 ns
L2 cache reference 7 ns 14x L1 cache
Mutex lock/unlock 25 ns
Main memory reference 100 ns 20x L2 cache, 200x L1 cache
Compress 1K bytes with Zippy 3,000 ns
Send 1K bytes over 1 Gbps network 10,000 ns
SSD random read 150,000 ns
Read 1 MB sequentially from memory 250,000 ns
Round trip within same datacenter 500,000 ns
Read 1 MB sequentially from SSD 1,000,000 ns  4X memory
Disk seek 10,000000 ns  20x datacenter roundtrip
Read 1 MB sequentially from disk 20,000,000 ns  80x memory, 20X SSD
Send packet CA->Netherlands->CA 150,000,000 ns

Trong đó:

Dựa trên những thông tin trên, khi thiết kế hệ thống chúng ta cần phải nắm được những thông số này để có thể tối ưu hóa chương trình hoặc hệ thống của mình một cách hợp lý nhất.

Từ github