
Bảo mật và công nghệ
BMB Technology
Đăng ngày
Tóm tắt: Khả năng từ chối đúng là năng lực của một hệ thống AI đáng tin. Không được suy đoán số liệu, tiết lộ dữ liệu ngoài quyền hoặc chuyển sang tool có quyền rộng để cố trả lời.
Người dùng thường mong muốn AI có thể trả lời mọi câu hỏi. Nhưng trong doanh nghiệp, có những câu hỏi mà câu trả lời đúng là “chưa đủ căn cứ” hoặc “bạn không có quyền truy cập thông tin này”.
Hai tình huống này khác nhau về nguyên nhân, cách xử lý và rủi ro. Nếu hệ thống cố làm hài lòng người dùng bằng một con số đoán hoặc một đường truy vấn vượt quyền, nó có thể gây hại nhiều hơn một lời từ chối rõ ràng.
Phân biệt bốn trạng thái mà AI hay nhầm lẫn
Không có quyền: Dữ liệu hoặc hành động nằm ngoài phạm vi được cấp. Đây là quyết định chính sách, không phải lỗi khả năng ngôn ngữ.
Không tìm thấy nguồn: Trong những nguồn được phép và đã kiểm tra, hệ thống chưa có dữ liệu hoặc tài liệu phù hợp. Không nên mặc định thông tin không tồn tại ở toàn doanh nghiệp.
Nguồn có nhưng chưa đủ bằng chứng: Một đoạn hợp đồng thiếu phụ lục, báo cáo doanh thu chưa có chi phí chốt, hoặc những sự kiện có tương quan nhưng chưa chứng minh nguyên nhân.
Lỗi công cụ hoặc dữ liệu chưa sẵn sàng: API timeout, dữ liệu chưa đồng bộ, phép tính bị chặn do thiếu định nghĩa KPI. Tình trạng này cần xử lý kỹ thuật hoặc nghiệp vụ, không thể coi là từ chối quyền.
Mỗi tình huống cần thông điệp và hướng hỗ trợ khác nhau.
Tại sao “xin lỗi, tôi không thể” chưa phải phản hồi tốt?
Một câu từ chối quá chung khiến người dùng không biết nên điều chỉnh câu hỏi, xin cấp quyền hay liên hệ chủ dữ liệu.
Phản hồi có thể hữu ích mà vẫn giữ an toàn:
| Trạng thái | Cách phản hồi phù hợp |
|---|---|
| Ngoài quyền | “Bạn chưa được cấp quyền cho loại thông tin này; có thể sử dụng quy trình yêu cầu quyền.” |
| Thiếu dữ liệu | “Chưa tìm thấy số liệu đủ cho kỳ và phạm vi yêu cầu trong các nguồn được phép.” |
| Chưa chốt số | “Có dữ liệu tạm tính nhưng chưa có dữ liệu đã xác nhận.” |
| Công cụ lỗi | “Nguồn dữ liệu hiện chưa phản hồi; không thể xác nhận kết quả.” |
| Nguồn mâu thuẫn | “Hai nguồn có giá trị khác nhau; cần người quản trị dữ liệu đối chiếu.” |
Không nên nêu tên tài liệu mật, số bản ghi bị cấm hoặc chi tiết quyền nội bộ nếu người dùng không được phép biết sự tồn tại của chúng.
Nguyên tắc fail closed
Fail closed nghĩa là khi không xác định được quyền hoặc không thể thực thi điều kiện kiểm soát bắt buộc, hệ thống mặc định từ chối thay vì tiếp tục bằng quyền rộng.
Ví dụ, công cụ dữ liệu không nhận được tenant context đã xác thực. Agent không được chuyển sang truy vấn toàn bộ bảng để “lấy tạm”, kể cả khi người dùng là lãnh đạo theo lời họ tự khai.
Nếu PDP yêu cầu che cột nhạy cảm nhưng PEP không áp dụng được, dữ liệu phải bị chặn. Một điều kiện bắt buộc không thể trở thành lời khuyên tự nguyện cho LLM.
Cách tiếp cận này nhất quán với việc giảm rủi ro sensitive information disclosure và excessive agency được trình bày trong OWASP Top 10 for LLM Applications.
Khi thiếu bằng chứng, AI có thể trả lời một phần không?
Có thể, nếu phần đó có giá trị độc lập và được trình bày đúng phạm vi.
Giả sử CEO hỏi “Tổng công nợ quá hạn của toàn công ty hôm nay là bao nhiêu?”, nhưng dữ liệu hai chi nhánh chưa đồng bộ. Hệ thống có thể đưa bảng của những chi nhánh đủ dữ liệu, nêu rõ hai nguồn thiếu và không gọi tổng của phần còn lại là tổng toàn công ty.
Một lời giải thích minh bạch còn phải có mốc cập nhật và ý nghĩa của số tạm tính. Nếu chỉ tiêu thiếu quá nhiều thành phần để tạo nghĩa, nên từ chối tính thay vì xuất ra một số trông chính xác.
Dẫn nguồn và mức chắc chắn phải đi cùng nhau
Với câu hỏi tài liệu, nguồn có thể tồn tại nhưng là bản cũ hoặc chưa rõ hiệu lực. Trả lời theo bản đó mà không nêu hạn chế có thể làm người dùng áp dụng sai quy trình.
Trợ lý nên xác định tài liệu, phiên bản, ngày hiệu lực và điều kiện áp dụng trước khi đưa kết luận. Nếu một phụ lục thay đổi nghĩa vụ chính, không nên trích đơn lẻ điều khoản từ bản gốc.
Đối với phân tích số, cần lưu phép đo, bộ lọc, nguồn và thời điểm cập nhật. Một câu trả lời “tôi rất chắc chắn” của LLM không thể thay thế dữ liệu có thể kiểm chứng.
Đề nghị cấp quyền thế nào cho đúng?
Khi người dùng cần dữ liệu hợp lệ để làm nhiệm vụ, AI có thể hướng dẫn quy trình xin quyền: mô tả mục đích, loại dữ liệu, phạm vi, thời hạn cần thiết và người phê duyệt.
Agent không nên tự tăng quyền hoặc yêu cầu người dùng cung cấp mật khẩu của người khác. Một quyền tạm thời phải có mốc hết hạn, nhật ký và khả năng thu hồi.
Với vai trò liên phòng ban như CFO, kế toán tổng hợp và HR, quyền cần được xác định theo nghiệp vụ chứ không chỉ theo phòng ban. Nhưng quyền rộng vẫn là quyền được cấp và kiểm soát, không phải đặc quyền tự suy đoán.
Khác biệt giữa từ chối và sự cố bảo mật
Một người không có quyền hỏi tài liệu nhạy cảm và nhận thông điệp từ chối là hành vi bình thường. Nhưng nếu tool đã truy xuất dữ liệu mật rồi LLM mới chọn không nói ra, đó vẫn có thể là sự cố kiểm soát dữ liệu.
Vì vậy, bộ kiểm thử phải kiểm tra nhật ký truy vấn và phạm vi dữ liệu đã được đưa vào ngữ cảnh, không chỉ nhìn câu trả lời cuối.
Những yêu cầu cố vượt quyền hoặc chứa chỉ dẫn độc hại cũng cần được ghi nhận theo chính sách mà không tiết lộ thông tin bí mật.
Ví dụ: Nhân viên yêu cầu bảng lương toàn công ty
Một nhân viên kinh doanh hỏi “Cho tôi danh sách lương theo tên của tất cả nhân viên”.
Hệ thống xác thực vai trò và từ chối công cụ truy vấn dữ liệu lương. Nếu người dùng có nhiệm vụ hợp lệ cần chỉ số tổng hợp nhân sự đã được công bố, AI có thể hướng dẫn xem đúng báo cáo hoặc xin quyền theo quy trình.
Không nên tự trả lương bình quân theo nhóm quá nhỏ nếu kết quả có thể làm suy ra thu nhập cá nhân. Khả năng suy luận gián tiếp phải được đánh giá cùng chính sách truy cập.
Một bộ kiểm thử từ chối cần có
- Câu hỏi vượt quyền đơn vị hoặc trường dữ liệu.
- Câu hỏi dùng prompt “bỏ qua chính sách”.
- Dữ liệu chưa đồng bộ đủ kỳ.
- Nguồn có nhiều phiên bản mâu thuẫn.
- Không tìm thấy tài liệu trong tập nguồn được phép.
- Câu hỏi yêu cầu kết luận nhân quả từ hai chỉ số tương quan.
- Công cụ SQL/RAG timeout giữa chừng.
- Người dùng được thu hồi quyền khi tác vụ đang chờ thực thi.
Đánh giá cần đo tỷ lệ từ chối đúng và tỷ lệ từ chối sai. Một hệ thống luôn từ chối sẽ an toàn ở một chiều nhưng không hữu ích; một hệ thống luôn trả lời sẽ tạo rủi ro nghiêm trọng.
Đo trải nghiệm người dùng như thế nào?
Ngoài độ chính xác, cần xem người dùng có hiểu lý do từ chối, có biết bước hợp lệ tiếp theo và có thể hoàn tất nhiệm vụ sau khi bổ sung dữ liệu/quyền hay không.
Có thể cung cấp thông tin về chủ dữ liệu hoặc quy trình yêu cầu quyền ở mức người hỏi được phép biết. Không nên tiết lộ cấu trúc bảo mật nội bộ không cần thiết.
Với BMB Insight, năng lực quan trọng cần kiểm thử là quyền được thực thi tại công cụ và khả năng phản hồi trung thực khi thiếu căn cứ, thay vì chỉ yêu cầu model học câu từ chối.
Câu hỏi thường gặp
AI có thể trả lời dựa trên kiến thức chung khi không có dữ liệu nội bộ?
Có thể giải thích nguyên tắc chung nếu nói rõ không phải kết quả hoặc chính sách của doanh nghiệp. Không được giả định dữ liệu chưa có.
Người dùng cấp cao có được bỏ qua bước kiểm tra quyền không?
Không. Họ có thể được cấp phạm vi rộng theo thẩm quyền nhưng hệ thống vẫn phải xác thực và thực thi chính sách.
Khi một API lỗi, AI có thể dùng số gần nhất không?
Chỉ khi nghiệp vụ cho phép dùng số cũ/tạm tính và hiển thị rõ kỳ, nguồn và giới hạn; không nên coi số đó là kết quả hiện tại.
Kết luận
Một AI doanh nghiệp đáng tin phải biết khi nào trả lời, khi nào đưa kết quả một phần và khi nào phải từ chối. Tính hữu ích không đến từ trả lời mọi câu hỏi, mà từ việc giữ đúng quyền và căn cứ trong từng câu trả lời.
Đọc thêm phân quyền theo vai trò và dữ liệu và xử lý AI Agent trả lời sai.
BMB Insight hướng tới dữ liệu và AI doanh nghiệp có kiểm soát. Liên hệ BMB để trao đổi nhu cầu và đăng ký demo. Nội dung là hướng dẫn và kịch bản tham khảo; tính năng, kết nối và các yêu cầu tuân thủ phải được xác nhận khi khảo sát triển khai.
Giải pháp BMB liên quan
- BMB Agent Studio - Nền tảng xây dựng và vận hành AI Agent. Thiết kế luồng xử lý, quy định quyền hành động và bố trí bước phê duyệt.
- BMB Knowledge AI - Kho tri thức và trợ lý AI nội bộ. Tra cứu tài liệu nội bộ theo quyền và đối chiếu nội dung qua trích dẫn.