AI-Infra-Guard: Nền tảng Red Team AI của Tencent
/AI-Infra-Guard
AI-Infra-Guard cung cấp tầm nhìn tập trung vào bề mặt tấn công AI: quét CVE, kiểm tra chuỗi cung ứng MCP, đánh giá hành vi agent và thử nghiệm jailbreak — tất cả trong một bản triển khai Docker. Đây là công cụ nội bộ thực sự kỹ lưỡng với 146 thành phần AI và 2000+ quy tắc CVE.
AI-Infra-Guard Là Gì
AI-Infra-Guard là nền tảng red team AI dựa trên Docker của Tencent Zhuque Lab, quét hạ tầng AI, agent, server MCP, skill agent và hành vi LLM để tìm rủi ro bảo mật. Nó nhận dạng các dịch vụ AI đang chạy đối chiếu với CVE đã biết, đánh giá khả năng chống lại thao túng prompt qua các bộ dữ liệu jailbreak, và kiểm tra mã nguồn skill/MCP để phát hiện mối đe dọa chuỗi cung ứng — tất cả truy cập qua giao diện web tại localhost:8088 hoặc dưới dạng công cụ CLI độc lập cho pipeline CI/CD.
Thách Thức Bảo Mật Hệ Sinh Thái AI
Hạ tầng AI trải rộng qua máy chủ suy luận, nền tảng agent, plugin công cụ và API mô hình — mỗi lớp có các lớp lỗ hổng riêng biệt mà các công cụ bảo mật truyền thống hoàn toàn bỏ qua. Một server MCP bị xâm phạm hoặc skill agent bị đầu độc có thể trích xuất dữ liệu hoặc chiếm quyền điều khiển agent trước khi bất kỳ cơ sở dữ liệu CVE truyền thống nào phát hiện. Các tổ chức vận hành AI stack tự host cần một cách để kiểm toán toàn bộ bề mặt tấn công qua mọi lớp này mà không phải ghép nối hàng tá công cụ riêng biệt.
Các Khả Năng Cốt Lõi Cho Red Team AI
- ✓Quét lỗ hổng hạ tầng AI — nhận dạng fingerprint các dịch vụ đang chạy (vLLM, Ollama, ComfyUI, n8n, Triton Inference Server và 100+ thành phần khác) đối chiếu với 2000+ quy tắc CVE
- ✓Agent Scan — khung đánh giá tự động đa agent đánh giá bảo mật workflow agent AI trên các nền tảng như Dify và Coze
- ✓Quét Server MCP & Skill Agent — phát hiện 14 danh mục rủi ro chính trong triển khai MCP và skill agent từ mã nguồn hoặc URL từ xa, bao gồm hijacking hướng dẫn, đầu độc bộ nhớ, leo thang đặc quyền và giả mạo công cụ
- ✓Jailbreak Evaluation — thử nghiệm khả năng chống lại nhiều phương pháp tấn công của LLM bao gồm Many-Shot, PAIR, GOAT và ActorAttack với so sánh đa mô hình
- ✓Phát hiện poisoning API LLM — kiểm tra black-box đa probe cho rủi ro thay thế mô hình và backdoor qua hạ tầng relay/proxy
- ✓Model và API Relay Checker — nhận dạng fingerprint, xác minh Claude Signature, kiểm toán black-box relay hỗ trợ phương pháp PAMELA và Ventor QTest
- ✓Công cụ CLI độc lập — skill-scan và MCP-scan chạy độc lập cho tích hợp CI/CD; gói pip aig-skill-scan cho phép nhúng vào pipeline
- ✓SkillTrustBench benchmark — phân loại T01–T09 (9 danh mục rủi ro) với kết quả F1 đã công bố; kết quả cao nhất 0.9848 F1 với Claude Opus 4.6
Quét Dịch Vụ Và Agent AI
- •Quét một instance vLLM đang chạy bằng cách trỏ AI-Infra-Guard tới địa chỉ HTTP của nó — scanner nhận dạng fingerprint phiên bản dịch vụ và đối chiếu với 2000+ lỗ hổng đã biết
- •Kiểm toán repository mã nguồn hoặc URL của server MCP trước khi triển khai, kiểm tra trích xuất thông tin xác thực, injection lệnh và các mẫu đầu độc công cụ
- •Đánh giá khả năng chống jailbreak của LLM bằng cách cấu hình endpoint API của nó trong Settings và chạy một trong các bộ dữ liệu tấn công có sẵn
- •Quét skill agent trong CI/CD — cài đặt aig-skill-scan qua pip, trỏ tới thư mục skill và nhận báo cáo lỗ hổng theo phân loại SkillTrustBench T01–T09
- •So sánh nhiều LLM về khả năng chống jailbreak sử dụng báo cáo đánh giá đa mô hình tích hợp
- •Kiểm toán bảo mật workflow agent trên triển khai Dify hoặc Coze sử dụng khung Agent Scan
Bắt Đầu Với AI-Infra-Guard
AI-Infra-Guard được thiết kế để triển khai Docker trên Linux, macOS và Windows. Cách được khuyến nghị là clone repo và chạy `docker-compose -f docker-compose.images.yml up -d`, lệnh này kéo các image đã build sẵn và khởi động giao diện web tại http://localhost:8088. Trình cài đặt một dòng (`curl ... | bash`) tự động cài Docker. Để build từ mã nguồn cục bộ, dùng `docker-compose up -d`. Các công cụ độc lập như aig-skill-scan có thể cài qua pip (`pip install aig-skill-scan`) mà không cần chạy toàn bộ nền tảng. API checker và CLI thống nhất yêu cầu bước build Go (`go build -o ai-infra-guard ./cmd/cli/main.go`) từ thư mục services.
Lợi Ích Khi Sử Dụng AI-Infra-Guard
- ✓Phạm vi bao phủ đa lớp toàn diện — quét CVE, đánh giá hành vi agent, kiểm toán chuỗi cung ứng MCP/skill và thử nghiệm jailbreak trong một nền tảng duy nhất
- ✓Benchmark được hỗ trợ vững chắc — kết quả SkillTrustBench đã công bố (F1 cao nhất 0.9848) với phân loại rủi ro 9 danh mục rõ ràng (T01–T09)
- ✓Hệ thống quy tắc mở rộng — fingerprint, lỗ hổng, quy tắc MCP và jailbreak nằm trong các thư mục YAML và data có cấu trúc, chấp nhận đóng góp từ cộng đồng qua pull request
- ✓Triển khai Docker giữ toàn bộ stack tự chứa; không cần cài đặt phức tạp cho từng thành phần
- ✓Công cụ CLI độc lập cho phép tích hợp CI/CD mà không cần giao diện web
- ✓Giấy phép Apache 2.0 rõ ràng cho phép sử dụng thương mại
Những Lưu Ý Quan Trọng Trước Khi Triển Khai
- △Không có cơ chế xác thực — README nêu rõ nền tảng không nên triển khai trên mạng công cộng, giới hạn nghiêm trọng các môi trường triển khai phù hợp
- △Tencent Zhuque Lab duy trì cơ sở dữ liệu quy tắc — các tổ chức có chính sách phụ thuộc bên thứ ba nghiêm ngặt có thể cần đánh giá mức độ cập nhật tích cực của các quy tắc CVE
- △Yêu cầu dịch vụ AI đang chạy để quét CVE hạ tầng — không thể quét các dự án AI chỉ có mã nguồn mà không triển khai trước
- △Giá trị cốt lõi của nền tảng phụ thuộc vào việc theo kịp các CVE AI mới được công bố; không có lịch cập nhật được ghi chép rõ ràng
- △Chạy dịch vụ API checker riêng bên cạnh nền tảng chính đòi hỏi thiết lập bổ sung phức tạp
- △Phạm vi rộng có nghĩa là không chuyên sâu vào bất kỳ lĩnh vực quét đơn lẻ nào — các công cụ hẹp hơn có thể vượt trội trong các lĩnh vực cụ thể như phát hiện prompt injection
Công Cụ Liên Quan Và Tích Hợp Hệ Sinh Thái
Câu Hỏi Thường Gặp
AI-Infra-Guard được phát hành theo giấy phép Apache 2.0, cho phép sử dụng, sửa đổi và phân phối lại miễn phí cho mục đích thương mại và phi thương mại. Không có yêu cầu ghi nhận công lao ngoài thông báo Apache tiêu chuẩn.
Triển khai Docker là con đường tiêu chuẩn. Clone repo và chạy `docker-compose -f docker-compose.images.yml up -d` để kéo các image đã build và khởi động giao diện web tại http://localhost:8088. Script cài đặt một dòng cũng có sẵn qua `curl ... | bash`. Các công cụ độc lập như skill-scan cài qua pip mà không cần toàn bộ nền tảng.
Không. Tài liệu rõ ràng cho biết AI-Infra-Guard không có cơ chế xác thực; do đó, không được triển khai trên mạng công cộng. Chức năng của nó là công cụ red team nội bộ, chỉ dùng trong môi trường cách ly hoặc được bảo vệ bởi VPN.
AI-Infra-Guard phát hiện rủi ro qua 14 danh mục chính bao gồm CVE hạ tầng AI (2000+ quy tắc qua 146 thành phần), lỗ hổng server MCP, mối đe dọa chuỗi cung ứng skill agent, leo thang đặc quyền, đầu độc bộ nhớ, chiếm quyền công cụ, mã độc nhúng và thực hành mã hóa không an toàn — được tổ chức theo phân loại SkillTrustBench T01–T09.
Có, AI-Infra-Guard bao gồm module Jailbreak Evaluation thử nghiệm khả năng chống lại nhiều phương pháp tấn công của LLM bao gồm Many-Shot, PAIR, GOAT và ActorAttack. Nó sử dụng các bộ dữ liệu được tuyển chọn, đo tỷ lệ thành công tấn công và tạo báo cáo so sánh đa mô hình.
Người đóng góp có thể thêm quy tắc fingerprint mới vào data/fingerprints/, quy tắc lỗ hổng vào data/vuln/, quy tắc bảo mật MCP vào data/mcp/ và bộ dữ liệu jailbreak vào data/eval/. Gửi quy tắc mới dưới dạng pull request theo định dạng file hiện có. Báo cáo lỗi và đề xuất tính năng qua GitHub Issues, cải thiện tài liệu qua pull request.
Ai Nên Dùng — Và Ai Nên Bỏ Qua
Đội ngũ bảo mật và red team tại các tổ chức vận hành hạ tầng AI tự host — đặc biệt những ai triển khai vLLM, Ollama, ComfyUI hoặc nền tảng agent như Dify và Coze — nên cân nhắc AI-Infra-Guard như một lớp kiểm toán trước triển khai. Đội ngũ MLOps muốn kiểm tra CVE baseline thống nhất trên toàn bộ AI stack sẽ thấy việc nhận dạng fingerprint hạ tầng hữu ích. Bỏ qua nếu bạn cần công cụ có thể an toàn đối mặt với internet, nếu tổ chức cấm dự án mã nguồn mở do Tencent duy trì, hoặc nếu chỉ cần phạm vi hẹp (công cụ prompt injection chuyên dụng như Garak có thể đủ). Ràng buộc không có xác thực khiến đây rõ ràng là lựa chọn chỉ dùng nội bộ — không triển khai ở nơi nó có thể bị truy cập từ mạng không tin cậy.
Repo liên quan
Muốn nghe thêm một ý kiến về AI-Infra-Guard?
Hỏi một AI đọc được trang này — một cú bấm là có ngay nhận định về AI-Infra-Guard.