Phần 3: Thực Chiến Fine-Tuning QLoRA: Axolotl & Unsloth
Cấu hình huấn luyện 4-bit NormalFloat NF4, tối ưu hóa bộ nhớ GPU VRAM với Axolotl và Unsloth, công thức phân bổ bộ nhớ cho mô hình 8B-14B trên một GPU 24GB.
Nhập từ khóa để tìm kiếm trong 371+ bài viết và chuyên đề…
Cấu hình huấn luyện 4-bit NormalFloat NF4, tối ưu hóa bộ nhớ GPU VRAM với Axolotl và Unsloth, công thức phân bổ bộ nhớ cho mô hình 8B-14B trên một GPU 24GB.
Chắt lọc tri thức từ DeepSeek-R1 671B sang SLM 1.5B–8B: chuyển giao tư duy Chain-of-Thought qua thẻ think, hàm mất mát kết hợp và Rejection Sampling chuẩn.
Phương pháp căn chỉnh hành vi SLM hiện đại: DPO, thuật toán GRPO không cần Critic, KTO tín hiệu nhị phân, triệt tiêu ảo giác và ép chuẩn định dạng JSON Schema.