AI Agent cần được kiểm soát những hành động nào?

Vì sao phải kiểm soát hành động chứ không chỉ câu trả lời?

Một chatbot chỉ nói. Nếu nó nói sai, bạn sửa lại bằng một câu trả lời khác. AI Agent thì làm: tạo đơn, cập nhật hồ sơ, gửi thông báo, gọi sang phần mềm khác. Mỗi hành động để lại một thay đổi thật trong hệ thống hoặc ngoài thị trường.

Khả năng hành động là lý do doanh nghiệp đầu tư vào AI Agent. Nó cũng là lý do cần có giới hạn. Một câu trả lời sai làm phiền 1 khách hàng. Một hành động sai lặp lại 500 lần trong 1 giờ có thể làm rối cả tháng sổ sách.

Kiểm soát ở đây không có nghĩa là nghi ngờ AI. Doanh nghiệp vẫn đặt hạn mức chi tiêu cho nhân viên giỏi nhất của mình, và lý do không phải vì thiếu tin tưởng.

6 nhóm hành động cần có giới hạn

Hành động liên quan đến tiền

Nhóm này gồm hoàn tiền, áp mã giảm giá, tạo lệnh thanh toán, điều chỉnh công nợ và đặt hàng nhà cung cấp. Tiền đã đi thì khó lấy lại, nên đây là nhóm cần kiểm soát chặt nhất.

Cách làm phổ biến là đặt hạn mức theo từng lần và theo ngày. AI tự xử lý các khoản nhỏ, còn khoản lớn hơn thì chuẩn bị sẵn hồ sơ để người có thẩm quyền duyệt. Riêng lệnh chuyển tiền ra ngoài doanh nghiệp, phần lớn đơn vị vẫn giữ cho con người.

Gửi thông tin ra bên ngoài

Email, tin nhắn Zalo, bài đăng trên fanpage hay thông báo gửi cho danh sách khách hàng đều thuộc nhóm này. Thông tin đã gửi đi thì không thu hồi được, và người nhận xem đó là lời của doanh nghiệp.

Mức kiểm soát nên tăng theo số người nhận. Một tin nhắn xác nhận lịch hẹn cho 1 khách có thể để AI tự gửi. Một thông báo cho 2.000 khách thì luôn cần người đọc lại trước khi phát đi.

Sửa và xóa dữ liệu

Tạo mới một bản ghi là việc ít rủi ro. Sửa thì khác, vì thông tin đúng có thể bị ghi đè bằng thông tin sai. Xóa là nặng nhất, vì dữ liệu có thể mất hẳn.

Với nhóm này, 3 biện pháp thường đi cùng nhau. AI đọc lại nội dung thay đổi cho khách xác nhận trước khi lưu. Hệ thống giữ lịch sử để khôi phục khi cần. Quyền xóa thì nên tắt hẳn, AI chỉ được đánh dấu "đề nghị xóa" để người phụ trách xem xét.

Truy cập dữ liệu nhạy cảm

Bảng lương, hồ sơ sức khỏe, thông tin thanh toán của khách, hợp đồng với đối tác. AI không cần thấy những dữ liệu này để trả lời câu hỏi về giờ mở cửa.

Nguyên tắc ở đây là quyền tối thiểu: AI chỉ được đọc đúng phần dữ liệu cần cho công việc được giao, và chỉ trong phạm vi của người đang hỏi. Một nhân viên hỏi về ngày phép của mình không nên nhận được thông tin ngày phép của đồng nghiệp. Bài bảo mật dữ liệu AI Agent trình bày chi tiết cách phân quyền kiểu này.

Cam kết thay doanh nghiệp

Đây là nhóm dễ bị bỏ sót vì nó không phải một thao tác trên phần mềm. Khi AI viết "bên em sẽ giao trong 24 giờ" hay "sản phẩm này được bảo hành 3 năm", nó đang hứa thay bạn.

Giới hạn cho nhóm này nằm ở nội dung. AI chỉ được nêu những cam kết đã có trong chính sách chính thức. Mọi điều khoản ngoài chính sách, như giao gấp, giảm giá riêng hay gia hạn thanh toán, cần chuyển cho người có quyền quyết định.

Thao tác chạy hàng loạt

Cập nhật giá cho 800 sản phẩm, gửi tin nhắc lịch cho toàn bộ khách trong tháng, gắn nhãn lại cho 5.000 khách hàng tiềm năng. Từng thao tác riêng lẻ có vẻ vô hại. Vấn đề nằm ở số lượng: một lỗi nhỏ sẽ được nhân lên rất nhiều lần trước khi có người phát hiện.

Biện pháp hiệu quả là chạy thử trên một nhóm nhỏ trước, khoảng 10 đến 20 bản ghi, rồi mới chạy toàn bộ. Hệ thống cũng nên có ngưỡng tự dừng khi số thao tác trong 1 giờ vượt xa mức bình thường.

Những hành động có thể để AI làm tự do hơn

Ngoài 6 nhóm trên, phần lớn công việc hằng ngày của AI Agent không cần giới hạn chặt. Trả lời câu hỏi theo tài liệu chính thức, tra cứu trạng thái đơn hàng, ghi nhận thông tin khách quan tâm, tạo phiếu hỗ trợ, đặt và nhắc lịch hẹn đều là những việc sai thì sửa được ngay và thiệt hại rất nhỏ.

Với nhóm này, điều doanh nghiệp cần là dữ liệu đúng và một người xem lại định kỳ. Đặt thêm bước duyệt ở đây chỉ làm chậm khách hàng mà không giảm được rủi ro đáng kể nào.

4 cách kiểm soát và khi nào dùng cách nào

Khi đã xác định AI Agent cần được kiểm soát những hành động nào, việc tiếp theo là chọn kiểu giới hạn cho từng hành động. Có 4 cách, xếp từ chặt đến lỏng.

Chọn cách nào phụ thuộc vào 2 yếu tố: sai thì có sửa được không, và một lần sai gây thiệt hại bao nhiêu. Sửa được và thiệt hại nhỏ thì kiểm tra sau là đủ. Không sửa được và thiệt hại lớn thì chặn hoặc duyệt trước.

Có một điểm kỹ thuật đáng lưu ý. Giới hạn cần được đặt trong chính phần mềm, không chỉ trong lời dặn cho AI. Viết vào hướng dẫn "không được hoàn tiền quá 500.000 đồng" là chưa đủ, vì AI có thể hiểu sai hoặc bị dẫn dắt. Khi hạn mức được cài ở tầng hệ thống, yêu cầu vượt ngưỡng sẽ bị từ chối dù AI có cố thực hiện. Cách dựng các luồng này có trong bài thiết kế quy trình phê duyệt cho AI Agent.

Nhật ký là lớp kiểm soát cuối cùng

Dù giới hạn chặt đến đâu, vẫn cần biết AI đã làm gì. Một nhật ký tốt ghi lại 4 thông tin cho mỗi hành động: AI đã làm gì, lúc nào, theo yêu cầu của ai và dựa trên dữ liệu nào.

Nhật ký có 2 tác dụng. Khi có sự cố, bạn tìm ra nguyên nhân trong vài phút thay vì phỏng đoán. Khi mọi thứ chạy ổn, nhật ký là bằng chứng để bạn yên tâm nới quyền cho AI ở những việc đã làm tốt.

Cần có một người đọc nhật ký định kỳ. Nhật ký không ai xem thì cũng giống camera không ai mở lại.

Kiểm soát quá tay cũng là một vấn đề

Nhiều doanh nghiệp, sau khi liệt kê hết rủi ro, quyết định bắt mọi hành động của AI phải qua duyệt. Kết quả là nhân viên dành cả ngày để bấm "đồng ý", và AI không còn tiết kiệm được thời gian cho ai.

Nguy hiểm hơn, khi phải duyệt quá nhiều, con người bắt đầu duyệt mà không đọc. Lúc đó bước duyệt chỉ còn là hình thức, và những trường hợp thật sự cần xem kỹ sẽ lọt qua.

Cách cân bằng là dồn sự chú ý của con người vào đúng chỗ. Phần lớn hành động hằng ngày, như tạo phiếu, đặt lịch, trả lời theo chính sách, nên để AI tự làm và kiểm tra sau. Bước duyệt chỉ dành cho số ít hành động thuộc 6 nhóm ở trên. Khi mỗi ngày chỉ có 10 yêu cầu chờ duyệt thay vì 300, người duyệt mới đọc kỹ từng cái.

Giới hạn cũng không nên đứng yên. Sau 1 đến 2 tháng, những việc AI làm đúng liên tục có thể được nới ra, còn những việc hay phải sửa thì siết lại.

Câu hỏi thường gặp

AI Agent có thể tự vượt qua giới hạn đã đặt không?

Không, nếu giới hạn được cài ở tầng hệ thống. AI chỉ gọi được những công cụ đã được cấp, và mỗi công cụ tự kiểm tra hạn mức trước khi thực hiện.

Doanh nghiệp nhỏ có cần kiểm soát đủ 6 nhóm không?

Có, nhưng theo cách đơn giản. Doanh nghiệp nhỏ thường chỉ cần chặn quyền xóa, đặt hạn mức cho việc liên quan đến tiền và yêu cầu duyệt trước khi gửi tin hàng loạt.

Ai nên chịu trách nhiệm kiểm soát AI Agent?

Một người hiểu nghiệp vụ của bộ phận đang dùng AI, không nhất thiết là người làm kỹ thuật. Người này xem nhật ký, nhận cảnh báo và đề xuất thay đổi giới hạn.