Answer-first: Sổ Tay SLM Playbook cung cấp cẩm nang thực chiến làm chủ mô hình ngôn ngữ nhỏ (SLMs 1B–14B): kiến trúc Hybrid AI định tuyến 80% tác vụ về local trong 35ms, tinh chỉnh QLoRA 4-bit trên GPU 24GB, chắt lọc chuỗi tư duy DeepSeek-R1, căn chỉnh DPO/GRPO và phục vụ sản xuất với vLLM AWQ/FP8.

📖 Bản tiếng Anh (English Edition): The SLM Playbook: Fine-Tuning & Model Distillation for Production

Chào mừng bạn đến với cẩm nang kỹ thuật thực chiến toàn diện về Mô hình Ngôn ngữ Nhỏ (Small Language Models - SLMs).

Bước vào năm 2026, kiến trúc AI doanh nghiệp đã vượt qua giai đoạn phụ thuộc mù quáng vào các siêu mô hình API đóng (Frontier LLMs). Trong khi các mô hình hàng trăm tỷ tham số tiêu tốn ngân sách khổng lồ và tạo ra rủi ro rò rỉ dữ liệu nhạy cảm, các mô hình nhỏ có kích thước từ 1B đến 14B (như Microsoft Phi-4, Qwen 2.5 Coder, Meta Llama 3.2/3.3) khi được tinh chỉnh đúng phương pháp hoàn toàn có thể đánh bại các siêu mô hình thương mại trên 80% bài toán nghiệp vụ hẹp.

flowchart TD
    subgraph Lifecycle ["Vòng Đời Sản Xuất SLM Toàn Diện (2026-2027)"]
        A["1. Kỹ Nghệ Dữ Liệu SFT<br/>(NEFTune + SemDeDup)"] --> B["2. Fine-Tuning QLoRA<br/>(Axolotl + Unsloth 4-bit)"]
        B --> C["3. Chắt Lọc Tri Thức<br/>(CoT Distillation từ DeepSeek-R1)"]
        C --> D["4. Căn Chỉnh Hành Vi<br/>(DPO / GRPO Rule-Based)"]
        D --> E["5. Vận Hành Phục Vụ<br/>(vLLM + PagedAttention v2 + AWQ)"]
    end

🗺️ Cây Quyết Định Kiến Trúc: Khi Nào Chọn SLM?

Việc lựa chọn giữa Prompt Engineering, RAG và Fine-tuning SLM quyết định trực tiếp đến chi phí hạ tầng (TCO) và độ trễ phản hồi (SLA).

flowchart TD
    Q1{"Yêu cầu bảo mật dữ liệu PII / Mã nguồn nội bộ?"}
    Q1 -- Có --> SLM["Tự Host SLM Cục Bộ (vLLM / VPC)"]
    Q1 -- Không --> Q2{"Tần suất truy vấn > 5M tokens/ngày?"}
    Q2 -- Có --> SLM
    Q2 -- Không --> Q3{"Cần cấu trúc JSON nghiêm ngặt hoặc logic hẹp?"}
    Q3 -- Có --> SLM
    Q3 -- Không --> Frontier["Dùng Cloud API (Claude 3.5 / GPT-4o)"]

📚 Lộ Trình Chi Tiết Các Chương (Masterclass Chapters)

Series này được thiết kế theo cấu trúc bài giảng chuyên sâu từ nền tảng kinh tế học, toán học lượng tử hóa đến code triển khai chi tiết:

❓ Câu Hỏi Thường Gặp (FAQ)

Khi nào doanh nghiệp nên tự host SLM thay vì dùng API của OpenAI/Anthropic?

Doanh nghiệp nên tự host SLM khi: (1) Khối lượng truy vấn vượt ngưỡng hòa vốn 8.5 triệu tokens/ngày khiến chi phí API vượt quá chi phí thuê GPU, (2) Yêu cầu tuân thủ dữ liệu nghiêm ngặt (GDPR, HIPAA, PCI-DSS) không được phép gửi dữ liệu PII ra ngoài VPC, hoặc (3) Ứng dụng yêu cầu độ trễ phản hồi cực thấp (Time-to-First-Token < 40ms).

QLoRA khác biệt gì so với LoRA thông thường và có làm giảm chất lượng mô hình không?

LoRA đóng băng trọng số gốc ở định dạng 16-bit và chỉ huấn luyện ma trận adapter hạng thấp. QLoRA lượng tử hóa các trọng số gốc xuống 4-bit NormalFloat (NF4) kết hợp Double Quantization, giúp giảm hơn 65% dung lượng VRAM (mô hình 8B chỉ cần 4.4GB VRAM) mà vẫn bảo toàn 99.3% độ chính xác so với huấn luyện 16-bit đầy đủ.

Thuật toán GRPO (Group Relative Policy Optimization) mang lại bước đột phá gì trong căn chỉnh mô hình?

GRPO (thuật toán được sử dụng trong DeepSeek-Math và DeepSeek-R1) loại bỏ hoàn toàn sự cần thiết của Critic Model (Reward Model riêng biệt) vốn chiếm tới 50% tài nguyên GPU trong PPO truyền thống. Bằng cách lấy mẫu một nhóm (group) câu trả lời cho cùng một prompt và tính toán phần thưởng tương đối trong nhóm, GRPO cắt giảm một nửa dung lượng bộ nhớ training.

🔗 Series Liên Quan & Tài Liệu Tham Khảo