
Tin doanh nghiệp
Đăng ngày
Kiểm tra điều kiện dừng luồng agent để tránh chạy vô hạn
Điều kiện dừng của agent phải được xác định trước khi chạy, được kiểm tra sau từng bước và không phụ thuộc vào việc mô hình ngôn ngữ tự nhận ra rằng nó nên dừng. Một luồng an toàn cần kết thúc khi đã đạt mục tiêu, hết ngân sách, gặp rủi ro không được phép, thiếu dữ liệu bắt buộc hoặc không còn tiến triển. Nếu chỉ đặt giới hạn số vòng, hệ thống có thể vẫn tiêu tốn nhiều tài nguyên hoặc dừng sai lúc.
Tình huống nghiệp vụ và dữ liệu mẫu
Giả sử agent hỗ trợ kiểm tra 200 hồ sơ thanh toán. Mục tiêu là xác định hồ sơ đủ chứng từ, đối chiếu số tiền và lập danh sách ngoại lệ. Mỗi hồ sơ có tối đa bốn nguồn dữ liệu. Nếu một nguồn không phản hồi, agent có xu hướng thử tìm đường thay thế, gọi lại hoặc hỏi công cụ khác. Không có điều kiện dừng rõ, một hồ sơ thiếu hóa đơn có thể tạo 30 lượt gọi mà vẫn không tiến gần kết luận.
Trong kịch bản mẫu, mỗi hồ sơ được cấp tối đa 12 bước, 90 giây và 20.000 đơn vị token; riêng tổng chi phí công cụ không vượt mức cấu hình tương đương 5.000 đồng. Agent dừng sớm nếu đã có đủ ba bằng chứng bắt buộc và các phép đối chiếu đều đạt. Nếu sau ba lần hành động liên tiếp số trường còn thiếu không giảm, phiên chuyển sang “không tiến triển” và yêu cầu người phụ trách bổ sung tài liệu.
Nhóm điều kiện dừng cần thiết
Điều kiện đạt mục tiêu là ưu tiên đầu tiên. Nhóm thiết kế phải biến mục tiêu chung thành tín hiệu kiểm chứng được. Với hồ sơ thanh toán, “đã kiểm tra xong” có thể nghĩa là đã nhận đủ danh mục chứng từ, tổng tiền trên đề nghị khớp hóa đơn trong sai số cho phép và người ký có thẩm quyền. Agent không nên dừng chỉ vì đã viết được một câu trả lời nghe hợp lý.
Điều kiện rủi ro dừng luồng trước hành động nhạy cảm. Ví dụ, agent có thể soạn dự thảo điều chỉnh dữ liệu nhưng phải dừng để xin phê duyệt trước khi ghi. Nếu giá trị vượt 100 triệu đồng hoặc liên quan tài khoản đặc quyền, luồng chuyển đến người có thẩm quyền. Việc dừng này là kết quả đúng của chính sách, không phải lỗi.
Điều kiện thiếu đầu vào áp dụng khi không có dữ liệu bắt buộc hoặc dữ liệu mâu thuẫn chưa thể giải quyết. Agent cần nêu rõ trường nào thiếu, đã tìm ở đâu và người dùng có thể bổ sung bằng cách nào. Không nên tiếp tục suy luận để lấp khoảng trống. Với nguồn tạm thời không truy cập được, chính sách có thể cho phép chờ một lần hoặc chuyển công việc sang hàng đợi.
Quy trình kiểm tra sau từng bước
Trước khi agent hành động, bộ điều phối xác nhận phiên chưa bị hủy, ngân sách còn đủ và công cụ được phép. Sau khi có kết quả, hệ thống cập nhật trạng thái bằng dữ liệu có cấu trúc thay vì chỉ nối thêm văn bản vào hội thoại. Bộ đánh giá tính lại mức hoàn thành mục tiêu, rủi ro, chi phí và mức tiến triển. Sau đó chính sách quyết định tiếp tục, chuyển nhánh, xin phê duyệt hoặc dừng.
Khi đã phát tín hiệu dừng, hệ thống không nên bắt đầu công cụ mới. Công cụ đang chạy được hủy nếu giao thức hỗ trợ và việc hủy không tạo trạng thái bất định. Nếu không thể hủy, kết quả đến sau được cách ly; bộ điều phối chỉ ghi nhận sau khi kiểm tra trạng thái phiên. Với thao tác ghi, cần đối soát xem hành động đã hoàn tất hay chưa trước khi kết luận.
Các ngoại lệ thường bị bỏ sót
Một ngoại lệ là agent hoàn thành mục tiêu nhưng kết quả chưa đủ chất lượng để bàn giao. Chẳng hạn tất cả phép tính đã chạy nhưng một nguồn dữ liệu quá cũ. Luồng nên dừng ở trạng thái hoàn tất có điều kiện, nêu thời điểm dữ liệu và yêu cầu xác nhận, thay vì tiếp tục vô hạn để tìm nguồn mới.
Tiêu chí kiểm thử và giám sát
Bộ kiểm thử cần có trường hợp đạt mục tiêu sớm, hết từng loại ngân sách, thiếu dữ liệu, kết quả mâu thuẫn, người dùng hủy và công cụ phản hồi sau khi dừng. Với mỗi trường hợp, kiểm tra mã lý do, số bước thực tế, hành động cuối cùng và nội dung giải thích. Không chấp nhận phiên đã dừng nhưng vẫn phát sinh lệnh công cụ mới.
Một tiêu chí định lượng mẫu là 100% phiên thử có trạng thái cuối trong thời gian giới hạn; không phiên nào vượt quá một bước so với ngân sách do tác vụ đang hoàn tất; 100% hành động nhạy cảm dừng trước khi ghi nếu thiếu phê duyệt. Tỷ lệ dừng vì không tiến triển cần được xem cùng dữ liệu gốc. Nếu tỷ lệ tăng sau một phiên bản mới, có thể công cụ, prompt hoặc tiêu chí mục tiêu đã suy giảm.
Câu hỏi thường gặp
Giới hạn số bước bao nhiêu là phù hợp? Không có một con số chung. Nên đo trên từng loại nhiệm vụ, chọn mức bao phủ phần lớn trường hợp hợp lệ và đặt nhánh phê duyệt cho ngoại lệ, thay vì nâng giới hạn vô điều kiện.
Dừng do thiếu dữ liệu có được coi là thất bại không? Không nhất thiết. Đây có thể là kết quả nghiệp vụ đúng nếu agent chỉ ra chính xác dữ liệu còn thiếu và không tự suy diễn. Báo cáo nên tách trạng thái này khỏi lỗi kỹ thuật.
Có thể tìm hiểu thêm về BMB Agent Studio và cách khôi phục phiên sau khi gián đoạn.