LlamaFactory: framework fine-tuning cho 100+ LLM

LlamaFactory là gì

LlamaFactory là một framework Python mã nguồn mở dùng để fine-tune các model ngôn ngữ lớn và model vision-language mà không cần tự viết training script. Nó gói LoRA, QLoRA, fine-tune toàn phần và các phương pháp preference như DPO, KTO, ORPO vào một CLI và một Web UI chạy trên Gradio có tên LlamaBoard. README liệt kê hỗ trợ hơn 100 dòng model, gồm LLaMA, Qwen3, DeepSeek, Gemma, GLM và các model đa phương thức như LLaVA.

Tính năng chính và các model được hỗ trợ

• ✓Fine-tune hơn 100 dòng model từ đầu đến cuối — LLaMA, Qwen3, DeepSeek, Gemma 3, GLM-4.5, Mixtral-MoE và các model đa phương thức như LLaVA, Qwen3-VL, MiniCPM-o
• ✓Bao trọn cả pipeline training: continuous pre-training, supervised fine-tuning, reward modeling, PPO, DPO, KTO và ORPO
• ✓LoRA và QLoRA xuống tận 2-bit, với các backend quantization AQLM, AWQ, GPTQ, LLM.int8, HQQ và EETQ
• ✓Tích hợp sẵn GaLore, BAdam, APOLLO, Adam-mini, Muon, DoRA, LongLoRA, LoRA+, LoftQ và PiSSA — chỉ cần bật bằng flag
• ✓Tăng tốc training với FlashAttention-2, Unsloth, Liger Kernel và KTransformers
• ✓Web UI LlamaBoard chạy cùng job như CLI mà không cần viết code
• ✓Serve model đã fine-tune qua API kiểu OpenAI, chạy bằng vLLM hoặc SGLang worker
• ✓Ghi log experiment vào TensorBoard, Wandb, MLflow hoặc SwanLab

Cài đặt LlamaFactory

README có nhắc tới một mục Installation riêng (cùng các trang docs riêng cho Ascend NPU và AMD GPU) nhưng nội dung đó không nằm trong tư liệu có ở đây, nên câu lệnh pip/git chính xác không được ghi rõ trong phần này. Điều được ghi rõ: bạn có thể bắt đầu không cần setup gì qua notebook Colab miễn phí, notebook PAI-DSW dùng thử miễn phí, và credit AMD GPU Cloud miễn phí — đều được link từ README — cộng với trang Documentation (đang ghi là work-in-progress) tại llamafactory.readthedocs.io cho phần setup local/cloud đầy đủ.

Fine-tuning bằng CLI và Web UI

Training local bắt đầu từ CLI, được ghi trong mục Getting Started/Quickstart của README; đường không-code là `train_web.py`, được project mô tả là một Web UI all-in-one cho training, evaluation và inference — đây chính là thứ chạy LlamaBoard. Không cần tự viết loop. Người dùng cloud có thể bỏ qua setup local hoàn toàn: README link tới notebook Colab miễn phí, notebook PAI-DSW dùng thử miễn phí, và credit AMD GPU Cloud để fine-tune mà không cần dựng hardware. Serve một checkpoint sau đó đi qua API kiểu OpenAI có sẵn, chọn vLLM hoặc SGLang qua argument `infer_backend` để inference nhanh và concurrent hơn; project cũng export thẳng checkpoint sang Ollama modelfile được.

Các lựa chọn thay thế cho LlamaFactory

Câu hỏi thường gặp

Vấn đề mà nó giải quyết

Fine-tune một LLM thường có nghĩa là chọn một phương pháp (LoRA? QLoRA? full-parameter?), rồi tự viết code nối giữa model loader, PEFT wrapper, trainer và serving stack — rồi lặp lại việc đó cho mỗi kiến trúc mới mà Meta, Qwen hay DeepSeek ra mắt. LlamaFactory thay thế phần code nối đó bằng một mặt cấu hình duy nhất: cùng một CLI/Web UI xử lý pre-training, SFT, reward modeling và preference tuning trên một danh mục model rộng, nên một bản release mới như Qwen3 hay Gemma 3 chỉ còn là đổi template thay vì viết lại từ đầu.

Trường hợp sử dụng tốt nhất

• •Fine-tune toàn phần hoặc LoRA/QLoRA một chat model mã nguồn mở trên một GPU consumer duy nhất
• •SFT đa phương thức cho các tác vụ hiểu ảnh hoặc visual grounding với model như LLaVA hay Qwen2.5-VL
• •Preference tuning (DPO/KTO/ORPO) một base model thành bản chat hoặc bản đã align an toàn
• •Dựng endpoint inference tương thích OpenAI cho model đã fine-tune qua vLLM hoặc SGLang
• •Thử nghiệm không cần viết code qua LlamaBoard, hợp cho team chưa có kỹ sư training-infra riêng

Ai nên dùng — và ai nên bỏ qua

Nên dùng LlamaFactory nếu bạn đã biết mình cần model nào và phương pháp nào (LoRA, QLoRA, DPO...) và chỉ cần nối chúng lại thật nhanh — một data scientist test thử một bản fine-tune trước khi viết code production, hay một team nhỏ chưa có người chuyên infra ML, cả hai đều tận dụng tốt LlamaBoard và các recipe dựng sẵn. Bỏ qua nếu bạn cần một training loop tự viết lại từng dòng, hoặc phương pháp fine-tuning bạn cần không nằm trong danh sách đã hỗ trợ — lúc đó bạn sẽ tốn thời gian lách qua framework nhiều hơn là tự viết loop.

Repo liên quan