
Quản trị tri thức
BMB Technology
Đăng ngày
Tóm tắt: RAG giúp AI tra cứu nguồn tri thức trước khi trả lời, nhưng không thể thay thế quản trị tài liệu và kiểm tra quyền.
Một nhân viên hỏi: “Quy định tạm ứng công tác phí mới nhất của công ty là gì?”. Một mô hình ngôn ngữ phổ thông có thể giải thích các nguyên tắc chung, nhưng không tự biết văn bản nội bộ đang có hiệu lực. RAG (Retrieval-Augmented Generation) là cách thiết kế để AI tìm kiếm nguồn được phép trước khi trả lời.
Theo Microsoft Foundry, RAG kết hợp truy xuất thông tin, bổ sung ngữ cảnh và tạo phản hồi. Đây là một mẫu kiến trúc, không phải một mô hình mới hoặc bảo đảm AI sẽ không bao giờ sai.
RAG hoạt động như thế nào?
Có hai luồng chính: chuẩn bị tri thức và xử lý câu hỏi. Trong luồng đầu, tài liệu PDF, Word hoặc nội dung từ hệ quản lý văn bản được trích xuất, chuẩn hóa, gắn thông tin mô tả và đưa vào chỉ mục. Một tài liệu dài có thể được chia thành các đoạn để tìm kiếm chính xác hơn.
Khi có câu hỏi, hệ thống xác định phạm vi nguồn, tìm những đoạn liên quan, kiểm tra điều kiện quyền và phiên bản, rồi cung cấp chúng cho LLM. Mô hình dùng ngữ cảnh đó để giải thích, tóm tắt và tạo câu trả lời có nguồn.
Điều khác biệt là tài liệu vẫn có vòng đời quản trị riêng; thay đổi nội dung không đòi hỏi phải huấn luyện lại toàn bộ mô hình ngôn ngữ.
Embedding và vector search có phải là RAG không?
Embedding chuyển nội dung thành biểu diễn số để tìm sự tương đồng về ý nghĩa. Nhờ đó, truy vấn “Ai được duyệt mua máy tính?” có thể tìm thấy đoạn tên “Thẩm quyền phê duyệt mua sắm” dù câu chữ không giống hệt.
Tuy nhiên, những yêu cầu có mã quyết định, số hợp đồng, mã sản phẩm thường cần tìm kiếm từ khóa chính xác. Nhiều hệ thống do đó sử dụng hybrid search: kết hợp full-text và vector, sau đó có thể xếp hạng lại kết quả (reranking).
RAG không bắt buộc phải dùng một vector database độc lập. Công cụ phù hợp phụ thuộc quy mô dữ liệu, yêu cầu lọc, hiệu suất và kinh nghiệm vận hành.
Bốn điều kiện để RAG đáng tin
1. Nguồn có thẩm quyền
Một quy chế có thể có bản dự thảo, bản được ban hành và phụ lục sửa đổi. Nếu chỉ lập chỉ mục theo ngày tải file, hệ thống dễ chọn tài liệu không còn hiệu lực. Cần metadata như ngày áp dụng, trạng thái, đơn vị ban hành và quan hệ thay thế.
2. Phân quyền trước khi đưa nội dung cho AI
Nhân viên không có quyền xem bảng lương thì các đoạn chứa bảng lương không được lọt vào ngữ cảnh mô hình. Kiểm tra quyền phải diễn ra trong truy xuất hoặc trước khi trả đoạn cho AI; một câu prompt “đừng tiết lộ bí mật” không đủ.
3. Dẫn nguồn đến đúng vị trí
Một câu trả lời có giá trị cần liên kết được đến tài liệu gốc, mục hoặc trang liên quan. Đường dẫn thật nhưng không hỗ trợ kết luận vẫn là trích dẫn sai.
4. Từ chối khi thiếu căn cứ
Nếu câu hỏi nằm ngoài tập dữ liệu hoặc nguồn mâu thuẫn, trợ lý nên nêu rõ giới hạn và gợi ý kiểm tra thêm. Một phản hồi chưa đầy đủ nhưng trung thực đáng tin hơn câu trả lời tự tin mà thiếu bằng chứng.
RAG khác fine-tuning thế nào?
Fine-tuning điều chỉnh trọng số mô hình để cải thiện hành vi hoặc một nhiệm vụ cụ thể. RAG tìm tri thức bên ngoài tại thời điểm hỏi. Chính sách doanh nghiệp thay đổi thường xuyên thường thích hợp với RAG, vì chỉ cần cập nhật nguồn và chỉ mục theo quy trình.
Hai hướng có thể kết hợp. Nhưng việc nạp thêm hàng nghìn file vào RAG không tự làm chất lượng tốt lên nếu file trùng, trích xuất sai hoặc thiếu quản trị phiên bản.
Một kịch bản minh họa có hai loại dữ liệu
Nhân viên hỏi: “Tôi còn bao nhiêu ngày phép và có được chuyển sang năm sau không?”. Phần quy định chuyển phép có thể truy xuất từ quy chế bằng RAG. Phần số ngày phép còn lại phải lấy từ hệ thống nhân sự có phân quyền cá nhân.
Nếu chỉ dùng RAG, AI không thể tự xác định số ngày phép của một người. Một nền tảng doanh nghiệp cần lựa chọn đúng công cụ và hiển thị nguồn của từng phần câu trả lời.
Đánh giá RAG bằng chỉ tiêu nào?
Hãy tạo bộ câu hỏi với nguồn và đáp án được người nghiệp vụ xác nhận. Đánh giá riêng: tỷ lệ truy xuất đúng đoạn, tỷ lệ trả lời đúng căn cứ, tỷ lệ trích dẫn hỗ trợ kết luận, thời gian phản hồi và tỷ lệ từ chối phù hợp.
Đừng chỉ dùng những câu hỏi dễ trong demo. Cần thử quy chế cũ, tài liệu gần giống nhau, file scan lỗi và những câu hỏi vượt quyền. Đối với nội dung quan trọng, nên có quy trình để người dùng báo lỗi và bộ phận sở hữu tài liệu sửa nguồn.
Chi phí và tốc độ
RAG bổ sung các bước tìm kiếm, lọc, rerank và gọi mô hình nên có thể tăng độ trễ. Để tối ưu, hãy phân loại câu hỏi, lập chỉ mục hợp lý, giới hạn số đoạn đưa vào ngữ cảnh và đo hiệu quả từng bước. Không nên bắt mọi câu hỏi đều chạy qua toàn bộ kho tài liệu.
Câu hỏi thường gặp
RAG có loại bỏ hoàn toàn lỗi bịa thông tin?
Không. Sai lệch vẫn có thể do nguồn sai, truy xuất sai hoặc mô hình suy luận quá mức.
Có thể dùng RAG trên máy chủ nội bộ?
Có. Nhưng vẫn cần kiểm soát quyền, sao lưu, giám sát và cập nhật dữ liệu.
RAG có phù hợp với BMB Insight?
RAG là hướng kỹ thuật phù hợp cho trợ lý tri thức được định hướng trong BMB Insight. Phạm vi chức năng đang có cần kiểm chứng theo phiên bản và bản demo thực tế.
Kết luận
Giá trị của RAG không nằm ở số lượng tài liệu đã nạp, mà ở khả năng tìm đúng thông tin được phép, còn hiệu lực và dẫn nguồn kiểm chứng được.
Trao đổi bài toán và xem demo: Liên hệ BMB Technology để đánh giá mức độ phù hợp của BMB Insight. Phạm vi tính năng hiện hành được xác nhận tại phiên bản và tài liệu triển khai cụ thể.
Giải pháp BMB liên quan
- BMB Knowledge AI - Kho tri thức và trợ lý AI nội bộ. Tra cứu tài liệu nội bộ theo quyền và đối chiếu nội dung qua trích dẫn.