Chat with Your Data: Giải pháp RAG dựng sẵn trên Azure
Chat with Your Data là accelerator của Microsoft trong Azure Samples, dựng trợ lý chat được grounding trên tài liệu của bạn và triển khai vào subscription Azure chỉ bằng một lệnh `azd up`. Nên dùng nếu bạn đã có Azure AI Foundry và muốn retrieval, ingestion cùng giao diện chat có trích dẫn được nối sẵn. Bỏ qua nếu bạn chỉ cần bản demo cục bộ gọn nhẹ, hoặc không muốn gắn chặt vào Azure Container Apps cùng Azure AI Search hay PostgreSQL.
Thách thức của tri thức phi cấu trúc
Hợp đồng, chính sách, tài liệu hướng dẫn sản phẩm và sổ tay phúc lợi chất đống thành các file khó tìm kiếm và tốn thời gian để trả lời câu hỏi — README nói thẳng điều này. Nối document ingestion, một chỉ mục retrieval, một mô hình ngôn ngữ được grounding, và một chat frontend trên Azure không phải việc năm phút: cần một kho retrieval, một ingestion worker, một mô hình định danh cho các lệnh gọi phía sau, và một giao diện stream câu trả lời kèm trích dẫn. Chat with Your Data đóng gói toàn bộ phần nối dây đó thành một template triển khai được, thay vì một hướng dẫn bạn phải tự làm theo từng bước.
Chat with Your Data là gì?
Chat with Your Data là một Solution Accelerator trong Azure Samples, grounding trợ lý hội thoại trên tài liệu của bạn và trả lời kèm trích dẫn nguồn. Nó chạy trên Azure Container Apps: frontend React và Vite, backend FastAPI, và một Azure Functions worker chuyên parse, chunk và embed file bạn upload. Ở thời điểm deploy, bạn chọn Azure AI Search kèm Cosmos DB, hoặc PostgreSQL với pgvector, làm nơi lưu retrieval và lịch sử chat.
Năng lực cốt lõi
- ✓Câu trả lời stream về kèm trích dẫn inline trỏ thẳng tới đúng tài liệu nguồn mà nó được grounding.
- ✓Một document ingestion pipeline upload file hoặc index các trang web công khai, rồi parse, chunk và embed chúng để phục vụ retrieval, hỗ trợ nhiều định dạng file.
- ✓Retrieval và persistence là lựa chọn ở thời điểm deploy: Azure AI Search kèm Cosmos DB, hoặc PostgreSQL với pgvector.
- ✓Hai orchestrator có thể hoán đổi cho nhau, Agent Framework và LangGraph, dùng chung một pipeline retrieval và grounding, chọn lúc deploy.
- ✓Một reasoning panel có thể thu gọn, stream các bước suy luận trung gian của model song song với câu trả lời cuối.
- ✓Azure AI Content Safety kiểm tra cả prompt lẫn response.
- ✓Một user-assigned managed identity duy nhất cấp quyền cho mọi lệnh gọi phía sau qua Azure RBAC, nên không cần Key Vault và không có secret nào trong ứng dụng phải xoay vòng.
- ✓Một admin experience cho phép bạn ingest, kiểm tra và cấu hình lại dataset cùng prompt mà không phải đụng code, và voice input hoạt động qua speech-to-text.
Ứng dụng thực tế
- •Rà soát và tóm tắt hợp đồng: nhân sự pháp lý và tuân thủ truy vấn hợp đồng đã index bằng ngôn ngữ tự nhiên, nhận lại điều khoản, thời hạn và nghĩa vụ kèm trích dẫn.
- •Hỗ trợ nhân viên và HR: chính sách và sổ tay nhân sự đã index trả lời câu hỏi của nhân viên kèm trích dẫn tới tài liệu nguồn, thay vì phải tự tìm chính sách thủ công.
- •Customer intelligence: grounding trợ lý trên ghi chú và tài liệu liên quan tới khách hàng giúp customer success manager và analyst có ngay bối cảnh tài khoản.
Triển khai lên Azure
Triển khai đi qua Azure Developer CLI: mọi thứ được deploy vào chính subscription Azure của bạn chỉ bằng một lệnh `azd up`. Ngoài ra còn có nút 'Deploy to Azure' triển khai một cú click, bỏ qua việc clone repo, hoặc bạn có thể theo hướng dẫn local deployment trong docs/LOCAL_DEPLOYMENT.md để có workflow của developer. Bạn cần một Azure subscription có role Contributor ở cấp subscription cộng với một role Role Based Access Control ở cấp subscription hoặc resource group, và một region nơi mọi service cần thiết đều khả dụng — README liệt kê East US, East US 2, Australia East, UK South và France Central làm ví dụ. Sau khi deploy xong, bạn chọn PostgreSQL hoặc Cosmos DB rồi chạy một script setup hậu-triển khai từ Azure Cloud Shell. Giá cả thay đổi theo region và mức sử dụng, nên README dẫn bạn tới Azure pricing calculator thay vì đưa một con số cố định, và cảnh báo rằng tài nguyên vẫn tiếp tục tính phí cho tới khi bạn chạy `azd down`.
Giá trị kinh doanh và lợi ích
- ✓Nhân viên nhận được câu trả lời có căn cứ, kèm trích dẫn ngay lập tức, thay vì phải tự đào bới tài liệu thủ công.
- ✓Trích dẫn inline cho phép người đọc kiểm chứng câu trả lời với tài liệu nguồn trước khi hành động theo nó.
- ✓Admin experience cho phép người không phải kỹ sư cấu hình persona, tinh chỉnh system prompt và cập nhật knowledge base.
- ✓Đổi retrieval backend hay orchestrator là một lựa chọn ở thời điểm deploy, không phải viết lại code, theo đúng mô tả kiến trúc modular của README.
- ✓Deploy vào chính subscription Azure của bạn giữ dữ liệu nằm trong ranh giới tuân thủ hiện có của bạn.
Những lưu ý và cảnh báo quan trọng
- △README nói rõ đây là điểm khởi đầu, không phải một hệ thống production hoàn chỉnh — yêu cầu bạn tự đánh giá chất lượng retrieval, độ chính xác câu trả lời và các yếu tố responsible-AI trên chính dữ liệu của mình trước khi tin tưởng dùng.
- △Chỉ chạy trên Azure: Azure Container Apps, Azure AI Foundry, và Azure AI Search hoặc Azure Database for PostgreSQL đều là bắt buộc, nên không có cách nào chạy nó ngoài Azure.
- △Dữ liệu mẫu đi kèm là dữ liệu tổng hợp, được sinh bằng Azure OpenAI Service chỉ để demo, nên không cho biết retrieval hoạt động ra sao trên tài liệu thật của bạn.
- △README nói rõ phần mềm này không thuộc diện kiểm toán tuân thủ SOC 1 hay SOC 2, và không thay thế được tư vấn y tế hay tài chính chuyên nghiệp.
- △Chi phí không thể dự đoán trước — README nói giá thay đổi theo region và mức sử dụng, và chỉ dẫn tới Azure pricing calculator thay vì một con số cụ thể.
Các giải pháp Azure AI liên quan
Câu hỏi thường gặp
Chat with Your Data được cấp phép theo MIT License; bộ dữ liệu mẫu trong thư mục data/ mang một giấy phép riêng là CDLA-Permissive-2 License.
Chat with Your Data chạy trên Azure Container Apps và Azure Container Registry, gọi Azure AI Foundry để lấy model và retrieval, và tùy cấu hình có thể dùng Azure AI Search, Azure Document Intelligence, Azure Storage, Azure Functions, Azure Cosmos DB, Azure Database for PostgreSQL, Azure AI Speech và Azure Monitor.
Chat with Your Data có thể được deploy mà không cần clone repository: README mô tả một nút 'Deploy to Azure' triển khai chỉ với một cú click, và việc clone chỉ cần thiết nếu bạn muốn dùng workflow local development.
README gọi Chat with Your Data là 'một điểm khởi đầu, không phải một hệ thống production hoàn chỉnh', và yêu cầu bạn đánh giá chất lượng retrieval, độ chính xác câu trả lời cùng các yếu tố responsible-AI trên dữ liệu của mình trước khi dựa vào nó.
README của Chat with Your Data nói giá thay đổi theo region và mức sử dụng nên không thể dự đoán chính xác, vì vậy nó dẫn bạn tới Azure pricing calculator cùng một bảng giá theo từng service như Container Apps, AI Foundry, AI Search và các tài nguyên khác mà nó triển khai.
Chat with Your Data hỗ trợ voice input qua speech-to-text trên mọi trình duyệt được hỗ trợ, theo danh sách tính năng trong README.
Ai nên dùng — và ai nên bỏ qua
Hãy thử Chat with Your Data nếu team của bạn đã vận hành trên Azure, cần một trợ lý Q&A tài liệu kèm trích dẫn, và muốn ingestion, retrieval cùng chat UI được nối sẵn thay vì phải tự lắp từng phần. Bỏ qua nếu bạn không dùng Azure, muốn một stack RAG không phụ thuộc cloud cụ thể để dễ chuyển đổi, hoặc chỉ cần một bản proof of concept cục bộ nhanh gọn mà không muốn cấp phát Azure AI Foundry, Azure AI Search hay PostgreSQL, và Azure Container Apps.
Repo liên quan
chat-with-your-data-solution-accelerator có đáng để bạn bỏ thời gian?
ChatGPT, Claude và Perplexity đều đọc được trang này. Hỏi thử xem họ nghĩ gì về chat-with-your-data-solution-accelerator.