Chuyển đến nội dung chính

Phân biệt nội dung trích dẫn và gợi ý của trợ lý AI ra sao?

Cách tách trích dẫn, tóm tắt, suy luận và gợi ý để cán bộ không nhầm nội dung do AI đề xuất với căn cứ trong tài liệu.

Sơ đồ phân loại trích dẫn, tóm tắt, suy luận và gợi ý trong câu trả lời AI bằng dữ liệu mẫu

Đăng ngày

Trợ lý AI phải phân biệt rõ nội dung trích dẫn và gợi ý

Nội dung lấy từ tài liệu và gợi ý do trợ lý AI tổng hợp phải được hiển thị thành hai loại riêng. Trích dẫn cho biết tài liệu đã viết gì; gợi ý là phương án để cán bộ cân nhắc dựa trên bối cảnh. Nếu trộn hai loại trong một đoạn văn, người đọc dễ hiểu nhầm đề xuất của hệ thống là quy định hoặc ý kiến chính thức. Cách thiết kế an toàn là gắn nhãn ngay tại từng câu, kèm nguồn cho phần trích dẫn và lý do cho phần gợi ý.

Bốn loại nội dung thường xuất hiện trong một câu trả lời

Loại thứ nhất là trích dẫn nguyên văn ngắn. Phần này cần chỉ rõ tên tài liệu, phiên bản, vị trí và đoạn văn đủ ngữ cảnh. Trợ lý không nên cắt một cụm từ khiến nghĩa thay đổi. Nếu tài liệu scan có chất lượng nhận dạng thấp, hệ thống phải cảnh báo để người dùng mở ảnh gốc kiểm tra.

Loại thứ hai là tóm tắt có dẫn nguồn. Trợ lý được diễn đạt ngắn hơn nhưng phải giữ đối tượng, điều kiện, ngoại lệ và mốc thời gian. Mỗi câu cần liên kết đoạn bằng chứng để cán bộ kiểm tra.

Loại thứ ba là suy luận theo dữ kiện hồ sơ. Ví dụ: tài liệu quy định cần đủ bốn thành phần, hồ sơ mẫu mới có ba thành phần, nên trợ lý nhận xét “còn thiếu một thành phần”. Đây là suy luận có thể kiểm tra, nhưng vẫn phải gắn nhãn và hiển thị hai vế dữ kiện. Nếu số lượng thành phần chưa chắc chắn, hệ thống không được trình bày nhận xét như một kết luận.

Loại cuối là gợi ý hành động, chẳng hạn đề nghị yêu cầu bổ sung, xin ý kiến đơn vị phối hợp hoặc lập danh sách kiểm tra. Gợi ý không thay thế quyết định của cán bộ. Giao diện nên cho phép chấp nhận, sửa hoặc bỏ từng gợi ý, đồng thời lưu người đã lựa chọn và lý do nếu quy trình yêu cầu truy vết.

Tình huống nghiệp vụ với dữ liệu mẫu

Một cán bộ dùng trợ lý để chuẩn bị nội dung trả lời cho hồ sơ mẫu gồm 14 tệp. Hệ thống tìm được 5 tài liệu liên quan và tạo câu trả lời 560 từ. Trong đó có 120 từ trích dẫn, 250 từ tóm tắt, 90 từ suy luận và 100 từ gợi ý hành động. Nếu tất cả được trình bày như một đoạn liên tục, cán bộ khó biết 190 từ cuối không phải nội dung của tài liệu.

Giao diện được chỉnh thành bốn khối có nhãn. Trích dẫn hiển thị nền trung tính và vị trí nguồn; tóm tắt kèm biểu tượng mở bằng chứng; suy luận nêu dữ kiện đầu vào; gợi ý có nút lựa chọn. Dữ liệu mẫu sau 30 phiên kiểm tra cho thấy người dùng phát hiện 8 gợi ý chưa phù hợp, sửa 6 gợi ý và giữ 16 gợi ý. Nếu không tách nhãn, 14 trường hợp cần chỉnh có thể đã đi vào dự thảo như nội dung có căn cứ.

Quy trình tạo câu trả lời có ranh giới rõ

Trước hết, hệ thống truy xuất đoạn nguồn theo quyền người dùng, loại phiên bản không phù hợp và giữ đủ ngữ cảnh. Phần trích dẫn phải được tạo từ tập bằng chứng này.

Tiếp theo, trợ lý xây dựng tóm tắt từ các đoạn đã chọn. Bộ kiểm tra cần so sánh từng câu tóm tắt với nguồn, phát hiện câu không có căn cứ hoặc câu ghép các điều kiện không tương thích. Nếu nguồn mâu thuẫn, câu trả lời chuyển thành thông báo xung đột thay vì tự hợp nhất.

Sau đó, hệ thống mới tính suy luận từ dữ kiện mẫu của hồ sơ. Mỗi suy luận cần trình bày dữ kiện đầu vào và quy tắc đã áp dụng. Những dữ kiện thiếu, mơ hồ hoặc nằm ngoài quyền truy cập phải làm giảm mức tin cậy hoặc chặn kết luận.

Cuối cùng, trợ lý đề xuất bước tiếp theo. Gợi ý nên cụ thể, có điều kiện và có người chịu trách nhiệm dự kiến. Thay vì viết “cần xử lý sớm”, hệ thống có thể gợi ý “cán bộ phụ trách kiểm tra tệp số 6 trước thời điểm dự kiến, sau đó quyết định có yêu cầu bổ sung hay không”. Mốc thời gian trong bản demo phải ghi rõ là dữ liệu mẫu, không phải cam kết thực tế.

Các ngoại lệ phải xử lý

Một câu có thể vừa chứa tóm tắt vừa chứa suy luận. Khi đó nên tách thành hai câu hoặc hai khối, không dùng một nhãn chung. Trường hợp câu trả lời sử dụng kiến thức chung ngoài kho tài liệu, hệ thống phải nói rõ phần đó không đến từ nguồn nội bộ và không dùng nó để khẳng định yêu cầu nghiệp vụ.

Nếu tài liệu dẫn chiếu sang phụ lục chưa có trong kho, trợ lý phải báo thiếu phụ lục. Nếu hai phiên bản cùng tồn tại nhưng chưa xác định bản áp dụng, hệ thống cần đưa cả hai vào danh sách cần xác minh. Nếu người dùng không có quyền mở nguồn, hệ thống không nên hiển thị nội dung nguồn qua phần tóm tắt; thay vào đó cần báo rằng câu hỏi chưa thể được trả lời trong phạm vi quyền hiện tại.

Khi người dùng sao chép chỉ phần gợi ý, ứng dụng có thể tự thêm nhãn “Nội dung tham khảo, cần kiểm tra”. Khi xuất toàn bộ câu trả lời, liên kết nguồn và nhãn phân loại phải đi kèm. Việc này tránh mất ngữ cảnh trong quá trình chuyển qua phần mềm soạn thảo.

Tiêu chí kiểm tra trước khi triển khai rộng

Một bộ kiểm thử nên có câu hỏi chỉ cần trích dẫn, câu hỏi cần tổng hợp nhiều nguồn, câu hỏi có dữ liệu thiếu và câu hỏi có nguồn mâu thuẫn. Với mỗi câu, tổ biên tập xác định trước loại nội dung mong đợi. Hệ thống đạt khi trích dẫn mở đúng vị trí; tóm tắt không thêm nghĩa; suy luận nêu đủ dữ kiện; gợi ý không được trình bày như mệnh lệnh.

Câu hỏi thường gặp

Tóm tắt có phải là trích dẫn không?

Không. Tóm tắt diễn đạt lại nội dung nguồn, nên vẫn cần liên kết bằng chứng nhưng không được đặt trong dấu trích dẫn như nguyên văn.

Gợi ý của trợ lý có được đưa vào dự thảo không?

Có thể, sau khi cán bộ kiểm tra, sửa theo hồ sơ và chịu trách nhiệm về nội dung đã lựa chọn.

Có cần hiển thị mức tin cậy bằng phần trăm không?

Không bắt buộc. Nhãn loại nội dung, bằng chứng và cảnh báo thiếu dữ kiện thường hữu ích hơn một con số khó giải thích.

Xem thêm Trợ lý AI cho cán bộ, công chức BMB và bài Vì sao AI cần dẫn nguồn để xây dựng câu trả lời có thể kiểm chứng.