Hugging Face Transformers: Model ML Pretrained

Tìm Hiểu Thư Viện Hugging Face Transformers

Hugging Face Transformers là một model-definition framework bao phủ text, computer vision, audio, video, và multimodal model cho cả inference lẫn training, theo mô tả trên GitHub của nó. README nói nó tập trung hoá model definition để giữ tương thích với các training framework như Axolotl và DeepSpeed, và các inference engine như vLLM và TGI, được hậu thuẫn bởi hơn 1M+ checkpoint trên Hugging Face Hub.

Ưu Điểm Chính Khi Dùng Transformers

• ✓pipeline() API là một class inference cấp cao xử lý cả preprocessing lẫn postprocessing cho các tác vụ text, audio, vision, và multimodal chỉ trong một lệnh gọi, theo phần quickstart của README.
• ✓Rất ít abstraction lộ ra cho người dùng — README tự mô tả là 'chỉ ba class cần học' để dùng mọi model pretrained qua một API thống nhất.
• ✓Model definition có tính di động: README nói một model definition được hỗ trợ sẽ chạy được với các training framework (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning), các inference engine (vLLM, SGLang, TGI), và các thư viện liên quan (llama.cpp, mlx).
• ✓Bạn có thể chuyển một model duy nhất giữa PyTorch, JAX, và TF2.0, rồi chọn framework phù hợp cho training, evaluation, hoặc production, theo README.
• ✓Các thành phần bên trong model được expose nhất quán, và file model có thể dùng độc lập với thư viện cho các thử nghiệm nhanh, theo README.
• ✓Có sẵn example script cho từng kiến trúc để tái tạo kết quả mà tác giả gốc đã công bố.
• ✓Giao diện chat dòng lệnh (transformers chat) và lệnh transformers serve cho phép bạn trò chuyện với model mà không cần viết script.

Cài Đặt Thư Viện Transformers

Transformers cần Python 3.10+ và PyTorch 2.5+, theo README. Trước tiên hãy tạo virtual environment — bằng venv (python -m venv .my-env, rồi source .my-env/bin/activate) hoặc bằng uv, trình quản lý package Python viết bằng Rust (uv venv .my-env). Sau đó cài bằng pip install "transformers[torch]" hoặc uv pip install "transformers[torch]". Nếu muốn theo dõi các thay đổi mới nhất hoặc đóng góp code, hãy cài từ source: git clone https://github.com/huggingface/transformers.git, cd transformers, rồi pip install '.[torch]' (hoặc lệnh uv tương đương) — README lưu ý bản source mới nhất có thể chưa ổn định, và mời bạn mở issue trên GitHub nếu gặp lỗi.

Dùng Nhanh Model Với Pipeline API

Cách nhanh nhất là dùng pipeline() API theo phần quickstart của README: from transformers import pipeline; pipeline = pipeline(task="text-generation", model="Qwen/Qwen2.5-1.5B"); pipeline("the secret to baking a really good cake is "). Model chỉ tải về một lần và được cache để tái sử dụng. Với kiểu tương tác chat, bạn truyền một danh sách dict role/content làm chat history cho cùng lệnh pipeline() — ví dụ trong README dùng meta-llama/Meta-Llama-3-8B-Instruct với dtype=torch.bfloat16 và device_map="auto". Nếu không muốn viết script, README có ghi lệnh transformers chat cho phép bạn chat với model ngay từ command line, miễn là transformers serve đang chạy.

Khám Phá Các Modality Và Tác Vụ Được Hỗ Trợ

• •Chạy các tác vụ audio như automatic speech recognition, keyword spotting, hoặc text-to-speech, với README nêu tên các model ví dụ như Whisper, Parakeet, Wav2Vec2, và CSM.
• •Chạy các tác vụ computer vision như image classification, depth estimation, hoặc object detection, với README nêu tên các model ví dụ như DINO v2, DepthPro, và RT-DETRv2.
• •Chạy các tác vụ multimodal như visual question answering, image captioning, hoặc document question answering, với README nêu tên các model ví dụ như Llava, BLIP-2, và LayoutLMv3.
• •Chạy các tác vụ NLP như text generation, summarization, translation, và named entity recognition, với README nêu tên các model ví dụ như Llama, BART, T5, và Gemma.
• •Thử nghiệm nhanh với bất kỳ checkpoint nào trong hơn 1M+ checkpoint trên Hugging Face Hub qua cùng một lệnh pipeline(), thay vì viết code load riêng cho từng model.

Công Cụ Bổ Trợ Và Thư Viện ML Thay Thế

Câu Hỏi Thường Gặp

Vấn đề nó giải quyết

Mỗi model mã nguồn mở mới ra mắt — một biến thể Llama, một checkpoint Qwen, một model vision-language mới — thường đi kèm code load riêng, các đặc thù tokenizer riêng, và quy ước inference riêng, khiến project của bạn bị gắn chặt vào bất kỳ training framework hay inference engine nào mà tác giả model đó đã dùng. README đóng khung lý do tồn tại của Transformers quanh sự phân mảnh đó: nó tập trung hoá chính phần model definition để cùng một định nghĩa đó chạy được trên các training framework như Axolotl và DeepSpeed lẫn các inference engine như vLLM và TGI, thay vì bạn phải viết lại glue code cho từng kiến trúc, từng framework.

Ai nên dùng — và ai nên bỏ qua

Hãy thử Hugging Face Transformers nếu bạn làm việc với PyTorch, JAX, hoặc TensorFlow và muốn dùng pipeline() API để chạy một model pretrained cho text, vision, audio, hoặc multimodal chỉ trong vài dòng, hoặc nếu bạn cần một model definition duy nhất vẫn tương thích với các training framework như DeepSpeed và các inference engine như vLLM. Bỏ qua nếu bạn đang viết một kiến trúc tuỳ chỉnh từ đầu và không muốn các abstraction riêng của thư viện xen vào, hoặc nếu training loop của bạn không dựa trên PyTorch — README hướng bạn tới Accelerate cho các training loop tổng quát thay vào đó.

Repo liên quan