Machine Learning

Mục lục Series | Chương tiếp theo: Phần 1: Kiến Trúc Hybrid AI & Tự Host vLLM → Answer-first: Sổ tay tối ưu hóa SLM cung cấp lộ trình làm chủ mô hình ngôn ngữ nhỏ: phân tích kinh tế TCO (tự host vLLM tiết kiệm 56% chi phí khi qua điểm hòa vốn 8.5 tỷ tokens/tháng), kỹ nghệ dữ liệu SFT, fine-tuning QLoRA 4-bit, chắt lọc tri thức DeepSeek-R1 và căn chỉnh DPO/GRPO. ...

← Chương trước: Executive Summary — Sổ Tay Tối Ưu Hóa SLM | Mục lục Series | Chương tiếp theo: Phần 2: Kỹ Nghệ Dữ Liệu Cho SFT: NEFTune & SemDeDup → Answer-first: Kiến trúc Hybrid AI định tuyến 80% truy vấn đơn giản về cụm SLM cục bộ (vLLM) và chỉ chuyển tiếp bài toán phức tạp lên Frontier LLM. Điểm hòa vốn đạt được ở mức 8.5 tỷ tokens/tháng, giúp doanh nghiệp cắt giảm 56% chi phí vận hành so với dùng hoàn toàn Cloud API. ...

← Chương trước: Phần 1: Kiến Trúc Hybrid AI & Tự Host vLLM | Mục lục Series | Chương tiếp theo: Phần 3: Thực Chiến Fine-Tuning QLoRA: Axolotl & Unsloth → Answer-first: Kỹ nghệ dữ liệu Supervised Fine-Tuning (SFT) nâng cao chất lượng mô hình nhờ hai kỹ thuật cốt lõi: tiêm nhiễu ngẫu nhiên NEFTune vào vector nhúng để chống học vẹt (overfitting), và lọc trùng lặp ngữ nghĩa SemDeDup bằng cosine similarity nhằm tối ưu hóa tập huấn luyện. ...

← Chương trước: Phần 2: Kỹ Nghệ Dữ Liệu Cho SFT: NEFTune & SemDeDup | Mục lục Series | Chương tiếp theo: Phần 4: Knowledge Distillation: Chắt Lọc Tri Thức DeepSeek-R1 → Answer-first: QLoRA lượng tử hóa trọng số gốc xuống định dạng 4-bit NormalFloat (NF4) kết hợp Double Quantization và Paged Optimizers. Kỹ thuật này giảm hơn 65% VRAM, cho phép fine-tune mô hình 8B-14B trên một GPU 24GB duy nhất (A10G/L4) mà vẫn bảo toàn 99% độ chính xác. ...

← Chương trước: Phần 3: Thực Chiến Fine-Tuning QLoRA: Axolotl & Unsloth | Mục lục Series | Chương tiếp theo: Phần 5: Căn Chỉnh Hành Vi (Preference Alignment): DPO & GRPO → Answer-first: Chắt lọc tri thức (Knowledge Distillation) chuyển giao năng lực suy luận sâu từ Teacher lớn (DeepSeek-R1) sang Student SLM nhỏ (Qwen-2.5-Coder 7B). Bằng cách huấn luyện trên chuỗi suy luận Chain-of-Thought và hàm mất mát kết hợp Cross-Entropy/KL Divergence, SLM đạt độ chính xác tương đương mô hình gốc. ...

← Chương trước: Phần 4: Knowledge Distillation: Chắt Lọc Tri Thức DeepSeek-R1 | Mục lục Series | Chương tiếp theo: Phần 6: Enterprise Serving & Quantization Với vLLM → Answer-first: Căn chỉnh hành vi mô hình bằng DPO loại bỏ hoàn toàn bước huấn luyện Reward Model, trong khi thuật toán GRPO (sử dụng trong DeepSeek-R1) tối ưu phần thưởng nhóm tương đối giúp giảm 50% bộ nhớ training so với PPO truyền thống. ...

← Chương trước: Phần 5: Căn Chỉnh Hành Vi (Preference Alignment): DPO & GRPO | Mục lục Series Answer-first: Triển khai vLLM trên hạ tầng Production đạt thông lượng cao nhờ PagedAttention chống phân mảnh VRAM, Chunked Prefill giảm độ trễ TTFT, Dynamic LoRA nạp adapter tức thì, và lượng tử hóa AWQ/GPTQ giúp nhân đôi throughput trên cùng cấu hình GPU. Huấn luyện và căn chỉnh hành vi thành công một mô hình ngôn ngữ nhỏ (SLM) mới chỉ giải quyết được một nửa chặng đường. Trong môi trường doanh nghiệp thực tế, đưa mô hình lên hệ thống phục vụ (Production Serving) đòi hỏi bạn phải giải quyết ba thách thức cực kỳ khắc nghiệt: Lượng truy cập đồng thời lớn (Concurrency), Độ trễ phản hồi thấp (Low Latency) và Chi phí máy chủ tối giản (Compute Cost). ...

Answer-first: Chọn Prompt Engineering để thử nghiệm nhanh và các tác vụ phổ quát; chọn RAG khi cần truy xuất tri thức động cập nhật liên tục; và chỉ chọn Fine-tuning (LoRA/QLoRA trên SLM) khi cần chuẩn hóa định dạng JSON nghiêm ngặt, cố định phong cách đối kháng, hoặc nén token giảm chi phí suy luận ở quy mô lớn. 🇬🇧 Read the English version of this article on tanhdev.com ...