FastGPT: Xây Dựng AI Agent Và Ứng Dụng LLM
labring/FastGPT
FastGPT là nền tảng tự host để xây dựng AI agent và hệ thống hỏi đáp dựa trên RAG, kết hợp một trình xây dựng workflow trực quan với pipeline cơ sở tri thức lo phần chia nhỏ tài liệu, tạo embedding và truy xuất. Nên dùng nếu bạn muốn có một chatbot có cơ sở tri thức chạy được trong một buổi chiều nhờ Docker, thay vì tự ráp cả pipeline đó từ đầu. Nên bỏ qua nếu đội của bạn cần kiểm soát toàn bộ logic truy xuất ở mức code thay vì thao tác kéo-thả.
Hiểu Mục Đích Cốt Lõi Của FastGPT
FastGPT là nền tảng xây dựng AI agent, cho phép bạn lắp ráp hệ thống hỏi đáp từ một canvas workflow trực quan, một cơ sở tri thức dựa trên tài liệu, và các lệnh gọi tới mô hình ngôn ngữ — tag trên GitHub của repo gồm claude, deepseek, openai và qwen. Cơ sở tri thức nạp các file như PDF, Docx, CSV, chia nhỏ chúng thành từng đoạn, rồi trả lời theo kiểu RAG thông qua workflow bạn tự thiết kế, thay vì phải viết code điều phối thủ công.
Năng Lực Chính Cho Phát Triển Ứng Dụng LLM
- ✓Canvas workflow trực quan để nối các luồng hội thoại, workflow dạng plugin và node kiểu RPA cơ bản, thay vì phải viết code điều phối thủ công.
- ✓Điều phối Agent Skill cùng hỗ trợ MCP hai chiều, nên một app FastGPT vừa có thể gọi công cụ MCP bên ngoài, vừa có thể được gọi như một công cụ MCP.
- ✓Cơ sở tri thức nạp được file TXT, MD, HTML, PDF, Docx, PPTX, CSV và XLSX, cộng thêm đọc nội dung từ URL và import CSV hàng loạt.
- ✓Truy xuất hybrid có rerank, cùng tùy chọn cơ sở tri thức qua API để lấy dữ liệu từ nguồn ngoài thay vì chỉ từ file tải lên.
- ✓Chỉnh sửa theo từng chunk: bạn có thể tìm, sửa hoặc xóa một đoạn dữ liệu cụ thể sau khi import, không phải chạy lại toàn bộ quá trình nạp dữ liệu.
- ✓Công cụ debug có sẵn: test tìm kiếm đơn lẻ trong cơ sở tri thức, log đầy đủ chuỗi gọi cho từng hội thoại, và tính năng đánh giá app.
- ✓Tính năng vận hành: cửa sổ chia sẻ không cần đăng nhập, nhúng iframe một chạm, và log hội thoại tập trung kèm gắn nhãn.
Ai Được Lợi Từ FastGPT?
- •Chatbot hỗ trợ khách hàng trả lời dựa trên cơ sở tri thức nội bộ thay vì kiến thức chung của mô hình.
- •Hỏi đáp tài liệu nội bộ, nơi đội ngũ cần câu trả lời lấy trực tiếp từ file PDF, Docx hoặc CSV thay vì kết quả tìm kiếm thông thường.
- •AI agent nhiều bước, kết hợp workflow dạng plugin với node kiểu RPA cho các tác vụ vượt ngoài một lượt hỏi-đáp đơn giản.
- •Nhúng chat widget vào website hoặc sản phẩm sẵn có qua iframe hoặc link chia sẻ, mà không cần tự dựng frontend.
Bắt Đầu Nhanh Với Docker
Theo README, cách cài đặt chính thức là qua Docker chỉ với một lệnh: chạy bash <(curl -fsSL https://doc.fastgpt.io/deploy/install.sh) để lấy file cấu hình, sau đó chạy docker compose up -d để khởi động. Sau khi chạy xong, FastGPT truy cập được tại http://localhost:3000 với tài khoản mặc định root / 1234. README còn dẫn tới hướng dẫn triển khai Docker đầy đủ hơn cho những phần script quick-start chưa xử lý, và liệt kê Sealos Cloud như một cách triển khai một chạm thay cho việc tự chạy Docker Compose.
Điểm mạnh
- ✓Chỉnh sửa cơ sở tri thức theo từng chunk — bạn có thể tìm và sửa một đoạn dữ liệu sai sau khi import thay vì phải nạp lại từ đầu.
- ✓Hỗ trợ MCP hai chiều nghĩa là một app FastGPT không chỉ tiêu thụ mô hình — nó còn có thể tự đưa mình ra như một công cụ MCP.
- ✓Cơ sở tri thức xử lý được nhiều định dạng ngay từ đầu: TXT, MD, HTML, PDF, Docx, PPTX, CSV, XLSX, cộng thêm đọc URL và import CSV hàng loạt.
- ✓Đường triển khai ngắn gọn: chỉ một script curl cộng docker compose up -d, đúng như phần quick start trong README.
- ✓Truy xuất hybrid kèm rerank được tích hợp sẵn trong pipeline cơ sở tri thức, không phải thứ bạn phải tự ráp thêm.
Giấy Phép Và Giới Hạn Sử Dụng Thương Mại
- △Giấy phép không phải là license mã nguồn mở chuẩn OSI: chính điều khoản trong README nói bạn được chạy FastGPT thương mại như một backend service, nhưng không được cung cấp nó như một sản phẩm SaaS nếu chưa có giấy phép thương mại riêng.
- △Nếu chưa có giấy phép thương mại, mọi hình thức triển khai thương mại đều phải giữ nguyên thông tin bản quyền của FastGPT — không thể âm thầm gắn thương hiệu khác lên nó.
- △Nhiều mục trong checklist tính năng của chính README vẫn chưa được đánh dấu hoàn thành, gồm hỗ trợ sinh workflow tự động, chế độ debug điều phối nâng cao, và hot-reload cho module RAG hay Agent-loop — một phần roadmap chưa lên hàng.
- △README không mô tả cách cài đặt từ mã nguồn hay qua npm thông thường, chỉ có Docker (và Sealos Cloud) — nếu không dùng được Docker Compose thì việc tự host chưa được tài liệu hóa rõ ràng.
So Sánh FastGPT Với Các Nền Tảng LLM Khác
Câu Hỏi Thường Gặp
FastGPT miễn phí và mã nguồn mở theo FastGPT Open Source License, và README xác nhận bạn có thể chạy nó thương mại như một backend service mà không phải trả phí — hạn chế chỉ áp dụng khi bạn bán lại nó như một sản phẩm SaaS.
FastGPT dùng được cho mục đích thương mại như một backend service theo giấy phép mã nguồn mở của nó, nhưng README nói rõ việc cung cấp FastGPT như một sản phẩm SaaS cần giấy phép thương mại riêng, và dùng thương mại chưa có giấy phép thì vẫn phải giữ nguyên thông tin bản quyền.
Cách deploy local được README của FastGPT mô tả là qua Docker: chạy script cài đặt từ doc.fastgpt.io để lấy file cấu hình, rồi chạy docker compose up -d, ứng dụng sẽ chạy tại http://localhost:3000 với tài khoản mặc định root / 1234.
README của FastGPT không liệt kê rõ các mô hình được hỗ trợ, nhưng tag GitHub của repo gồm claude, deepseek, openai và qwen, và hỗ trợ MCP hai chiều cho phép nó gọi ra các công cụ mô hình bên ngoài.
Cơ sở tri thức của FastGPT nhận file TXT, MD, HTML, PDF, Docx, PPTX, CSV và XLSX, cộng thêm đọc nội dung trực tiếp từ URL và import CSV hàng loạt.
FastGPT cũng có bản cloud tại fastgpt.io cho ai không muốn tự host, bên cạnh bản cộng đồng chạy Docker miễn phí và bản thương mại trả phí.
Vấn đề mà FastGPT giải quyết
Các đội muốn nối một LLM với tài liệu của riêng mình thường phải tự viết tay bước chia nhỏ văn bản, gọi embedding, tìm kiếm vector và dựng prompt template trước khi có được thứ gì đó giống một chatbot hỏi-đáp thực sự chạy được. FastGPT gói cả chuỗi đó — nạp file, chia nhỏ, truy xuất hybrid kèm rerank, và luồng prompt/response — vào bên trong một canvas workflow trực quan, nên phần kết nối giữa một file PDF tải lên và một câu trả lời kèm trích dẫn đã được dựng sẵn.
Nên dùng khi nào — và khi nào nên bỏ qua
Nên dùng FastGPT nếu bạn muốn một chatbot tự host có cơ sở tri thức đi kèm, và bạn thoải mái với việc thiết kế luồng bằng giao diện trực quan thay vì viết code — quick start bằng Docker giúp bạn có một instance chạy được rất nhanh. Nên bỏ qua nếu bạn định xây một sản phẩm SaaS trên nền FastGPT, vì giấy phép cấm điều này nếu chưa có thỏa thuận thương mại, hoặc nếu đội của bạn muốn tự viết từng dòng trong pipeline truy xuất thay vì làm việc bên trong một công cụ workflow trực quan.