AI Inference

🇬🇧 Read the English version of this article on tanhdev.com Answer-first: In-Place Pod Resizing (chính thức đạt trạng thái Stable/GA từ Kubernetes v1.35) cho phép cập nhật tài nguyên CPU và Memory trực tiếp trên container đang chạy thông qua subresource /resize mà không cần khởi động lại Pod. Tính năng này yêu cầu container runtime hỗ trợ CRI API UpdateContainerResources (containerd ≥ 1.6.9 hoặc CRI-O ≥ 1.25), kết hợp với chế độ VPA updateMode: "InPlace" giúp loại bỏ hoàn toàn tình trạng gián đoạn kết nối, rút ngắn độ trễ cold start của AI inference từ hàng phút xuống còn dưới 1 giây và cắt giảm 40–60% chi phí hạ tầng. ...

🇬🇧 Read the English version of this article on tanhdev.com Answer-first: Go 1.26 ra mắt ba tính năng runtime đột phá: Green Tea GC giảm 10–40% CPU overhead qua cơ chế quét theo trang và gia tốc AVX-512, cgo calls nhanh hơn ~30% cho AI inference, và profile goroutine leak phát hiện rò rỉ đồng thời qua phân tích reachability. Zero code changes required. Được phát hành vào tháng 02 năm 2026, Go 1.26 không phải là một bản vá lỗi thông thường. Nó làm thay đổi căn bản cách mà Go runtime quản lý bộ nhớ, tương tác với mã C, và làm nổi bật các lỗi đồng thời (concurrency bugs). Đối với các đội ngũ đang chạy Golang microservices ở quy mô lớn, những cải tiến này cộng dồn trên toàn bộ hệ thống (fleet) — mà không yêu cầu bạn phải thay đổi bất kỳ dòng code nào (zero code changes required). ...