Rate Limiting

← Chương trước: Tư Duy System Design & Các Sự Đánh Đổi — CAP, PACELC & Clean Architecture | Mục lục Series | Chương tiếp theo: Chiến Lược Caching & Bệnh Đàn Voi Giẫm Đạp (Cache Stampede) — Singleflight, XFetch & Redis LFU → Answer-first: Cân bằng tải phân lớp L4 (DSR qua HAProxy/IPVS) và L7 (API Gateway Envoy/Kong) tối ưu hóa định tuyến và giảm độ trễ mạng. Kết hợp middleware Token Bucket bằng Go với atomic operations cho phép giới hạn tốc độ truy cập chính xác và bảo vệ hệ thống trước bão request. ...

← Chương trước: Bài 2: Kiến trúc Flash Sale — Bí ẩn phía sau Redis và Hot Keys | Mục lục Series | Chương tiếp theo: Bài 4: Tầng Dữ liệu — Từ MySQL Sharding đến TiDB NewSQL → Answer-first: Tấm khiên bảo vệ hệ thống trước cơn bão traffic Flash Sale kết hợp hàng đợi Apache Kafka để đệm đơn hàng và san phẳng đỉnh tải, cùng cơ chế suy giảm dịch vụ mềm (Graceful Degradation) tự động tắt các tính năng phụ để dồn tài nguyên cho luồng thanh toán. ...

← Chương trước: Chương 2 — 3 Điểm Yếu Của Caching | Mục lục Series | Chương tiếp theo: Chương 4 — Transactional Outbox Pattern → Answer-first: Local rate limiters trên RAM cục bộ thất bại trong Microservices do tải bị chia đều qua nhiều nodes. Sử dụng trạng thái tập trung trên Redis với thuật toán GCRA (Generic Cell Rate Algorithm) thực thi qua các đoạn mã Atomic Lua scripts giúp kiểm soát lưu lượng chính xác tuyệt đối mà chỉ tốn đúng 1 key. ...

← Chương trước: Khả Năng Quan Sát (Observability) & pprof — Bắt Bệnh Rò Rỉ Bộ Nhớ, Profiling CPU & GODEBUG | Mục lục Series | Chương tiếp theo: Giao Thức Giao Tiếp — gRPC vs REST vs GraphQL Trong Microservices Go → Answer-first: Bảo vệ API đa tầng kết hợp WAF chặn tấn công mạng, API Gateway kiểm soát Quota và middleware ứng dụng chạy thuật toán Token/Leaky Bucket. Kỹ thuật Sharded Limiter trong Go loại bỏ xung đột khóa (lock contention), kết hợp Redis Lua sliding window mang lại độ chính xác cao. ...