LibreChat: nền tảng chat AI tự host
danny-avila/LibreChat
LibreChat là nền tảng chat AI tự host, đưa OpenAI, Anthropic, Google, AWS Bedrock và nhiều nhà cung cấp mô hình khác vào chung một giao diện do chính bạn vận hành. Hãy chọn LibreChat nếu bạn muốn giữ hội thoại và API key trên hạ tầng do mình kiểm soát, và không ngại chạy Docker Compose. Bỏ qua nếu bạn chỉ cần một cửa sổ chat dùng ngay, không muốn setup hay bảo trì gì cả.
Hợp nhất các cuộc trò chuyện AI
LibreChat là giao diện web mã nguồn mở, tự host, dùng để trò chuyện với các mô hình AI từ OpenAI, Anthropic, Google, AWS Bedrock, Azure và nhiều nhà cung cấp khác qua một lần đăng nhập duy nhất. Nó thay thế việc dùng nhiều tài khoản và dashboard API riêng lẻ bằng một giao diện kiểu ChatGPT tự triển khai trên server của bạn. Model Context Protocol (MCP) giúp LibreChat kết nối công cụ và dữ liệu bên ngoài, thay vì khóa chặt vào một nhà cung cấp.
Các tính năng cốt lõi
- ✓Chuyển đổi mô hình qua lại giữa OpenAI, Anthropic (Claude), AWS Bedrock, Azure OpenAI, Google Vertex AI, và bất kỳ Custom Endpoint tương thích OpenAI nào mà không cần proxy
- ✓Code Interpreter API chạy Python, Node.js, Go, C/C++, Java, PHP, Rust và Fortran trong sandbox, xây trên ClickHouse/code-interpreter mã nguồn mở
- ✓LibreChat Agents: trợ lý tùy chỉnh không cần code, có Agent Marketplace, công cụ MCP server, file search và thực thi code, cộng thêm gói hướng dẫn SKILL.md tái sử dụng và Subagents chạy độc lập
- ✓Web search kết hợp nhiều search provider, content scraper và bộ rerank kết quả, có thể cấu hình Jina reranking
- ✓Code Artifacts tạo React, HTML và sơ đồ Mermaid ngay trong khung chat
- ✓Resumable Streams tự kết nối lại khi mất mạng và đồng bộ cùng một hội thoại trên nhiều tab, nhiều thiết bị, mở rộng qua Redis khi triển khai theo chiều ngang
- ✓Xác thực đa người dùng qua OAuth2, LDAP hoặc đăng nhập email, cùng Admin Panel trên trình duyệt để quản lý user, group, role và cấu hình mà không cần redeploy
- ✓Tạo và chỉnh sửa ảnh qua GPT-Image-1, DALL-E (3/2), Stable Diffusion, Flux hoặc bất kỳ MCP server nào
Bắt đầu với LibreChat
README không đưa ra một chuỗi lệnh cài đặt cụ thể trong phần dữ liệu ở đây, chỉ nhắc tới Docker, reverse proxy và nhiều tùy chọn triển khai khác, cùng việc Admin Panel đi kèm sẵn trong các Docker Compose stack để setup bằng một lệnh. Muốn biết bước cài đặt và yêu cầu hệ thống thật sự, nên xem tài liệu chính thức tại librechat.ai/docs thay vì đoán mò câu lệnh.
Ai nên dùng LibreChat?
LibreChat phù hợp với cá nhân và team đã có sẵn API key của nhiều nhà cung cấp AI và muốn dùng chung một nơi thay vì nhiều tài khoản riêng cho OpenAI, Anthropic và Google. Nó hợp với developer quen chạy Docker và tự quản lý server, cũng như tổ chức cần xác thực đa người dùng (OAuth2, LDAP, đăng nhập email) kèm admin panel để quản lý quyền truy cập. Đây không phải lựa chọn tốt cho ai chỉ muốn một chatbot dùng ngay mà không phải quản lý hạ tầng gì cả.
Điểm mạnh
- ✓Một giao diện cho rất nhiều nhà cung cấp—kể cả AWS Bedrock, Vertex AI và Responses API của OpenAI—nên đổi model giữa chừng hội thoại không có nghĩa là đổi app
- ✓Hỗ trợ MCP và Agents cho khả năng mở rộng thật sự chứ không chỉ là một khung chat: công cụ, file search và thực thi code gắn thẳng vào agent thay vì nằm trong hệ thống plugin riêng
- ✓Resumable Streams và đồng bộ đa tab là chi tiết mà hầu hết giao diện chat tự host khác bỏ qua—hữu ích nếu team bạn để tab mở cả ngày
- ✓Giấy phép MIT với 41.710 sao và 8.609 fork trên GitHub, ít nhất cho thấy có rất nhiều người khác đang chạy cùng đoạn code này
Những điều cần cân nhắc khi tự host
- △README không cho một lệnh cài đặt hay danh sách yêu cầu hệ thống rõ ràng ở phần dữ liệu này—nên chuẩn bị đọc thêm tài liệu riêng trước khi có được Docker Compose stack chạy được
- △Mỗi tích hợp nhà cung cấp (Bedrock, Vertex AI, Azure, Custom Endpoints) là một bề mặt cấu hình bạn phải tự quản lý; nối hơn một hai provider nghĩa là nhiều biến môi trường phải nhớ hơn, chứ không ít đi
- △Tự host nghĩa là bạn tự chịu trách nhiệm về nhịp độ cập nhật—README có nhắc riêng tới breaking changes trong changelog, ngụ ý việc nâng cấp không phải lúc nào cũng suôn sẻ
So sánh các nền tảng chat AI
Câu hỏi thường gặp
LibreChat kết nối tới OpenAI, Anthropic (Claude), AWS Bedrock, Azure OpenAI, Google Vertex AI, và các provider Local & Remote như Ollama, Mistral AI, OpenRouter, Deepseek, cộng thêm bất kỳ API tương thích OpenAI nào qua Custom Endpoints.
Bản thân LibreChat miễn phí và mã nguồn mở theo giấy phép MIT—bạn tự host nên chi phí duy nhất là server của bạn cộng phí sử dụng API mà các nhà cung cấp AI bạn kết nối tính riêng.
LibreChat hỗ trợ xác thực đa người dùng, bảo mật qua OAuth2, LDAP và đăng nhập email, cùng Admin Panel để quản lý user, group, role và quyền ngay trên trình duyệt.
LibreChat tạo ảnh qua GPT-Image-1, DALL-E (3/2), Stable Diffusion hoặc Flux, và phân tích ảnh tải lên bằng các model có khả năng nhìn như Claude 3, GPT-4o và Gemini.
LibreChat Agents là trợ lý tùy chỉnh không cần code mà bạn dựng ngay trong app, có Agent Marketplace để khám phá agent do cộng đồng xây dựng, cùng hỗ trợ công cụ MCP server, file search và thực thi code.
LibreChat chạy trên hạ tầng do bạn kiểm soát thay vì gửi hội thoại tới sản phẩm chat của bên thứ ba, và Code Interpreter thực thi code trong môi trường sandbox cách ly riêng, tách biệt với hệ thống của bạn.
Vấn đề mà LibreChat giải quyết
Ai đang trả tiền riêng cho API của OpenAI, Anthropic và Google thường có hội thoại nằm rải rác trên ba giao diện của ba nhà cung cấp khác nhau, mỗi cái một kiểu đăng nhập, lịch sử và cách upload file riêng—và không cách nào giữ dữ liệu đó tránh xa server của các nhà cung cấp ấy. Câu trả lời của LibreChat là một giao diện tự host duy nhất, nói chuyện được với tất cả qua Custom Endpoints và tích hợp gốc riêng cho từng nhà cung cấp. Đổi model chỉ là chọn dropdown, không phải đổi trang web.
Trường hợp sử dụng tốt nhất
- •Dùng chung một giao diện chat nội bộ cho cả team đã trả tiền riêng cho OpenAI, Anthropic và Google, để mọi người khỏi phải copy-paste qua lại giữa ba tab
- •Xây agent không cần code, gọi công cụ MCP và file search cho một quy trình nội bộ hẹp, chia sẻ cho một nhóm cụ thể thay vì toàn công ty
- •Tự host chat AI cho công ty không được phép gửi prompt ra sản phẩm chat của bên thứ ba vì lý do tuân thủ
- •Thử nghiệm với Code Interpreter để chạy code Python, Go hoặc Rust, kiểm tra kết quả mô hình trước khi đưa đi nơi khác