Bảo mật dữ liệu AI Agent: Những yêu cầu doanh nghiệp cần kiểm tra

Khi AI Agent chỉ trả lời từ tài liệu công khai, phạm vi dữ liệu tương đối đơn giản. Nhưng khi hệ thống được kết nối với CRM, hồ sơ khách hàng hoặc phần mềm nội bộ, yêu cầu bảo mật trở nên quan trọng hơn.

Một Agent có thể được thiết kế để hỗ trợ nhân viên tra cứu thông tin. Nếu phân quyền không phù hợp, hệ thống có nguy cơ trả về dữ liệu mà người yêu cầu không được phép xem.

Bảo mật AI Agent vì vậy không chỉ là bảo vệ mô hình AI. Doanh nghiệp cần kiểm soát dữ liệu, quyền truy cập, công cụ tích hợp, hành động và quá trình vận hành.

1. Những loại dữ liệu AI Agent có thể xử lý

Tùy nghiệp vụ, hệ thống có thể tiếp nhận câu hỏi của người dùng, tài liệu nội bộ, thông tin khách hàng và dữ liệu trả về từ phần mềm tích hợp.

Doanh nghiệp cần lập danh sách những loại dữ liệu này và xác định mục đích sử dụng.

Không nên đưa toàn bộ dữ liệu doanh nghiệp vào Agent chỉ vì muốn hệ thống trả lời được nhiều câu hỏi hơn.

Nguyên tắc thực tế là chỉ cung cấp dữ liệu cần thiết cho nhiệm vụ đã xác định.

2. Rủi ro truy cập dữ liệu vượt quyền

Một Agent nội bộ có thể phục vụ nhiều phòng ban, nhưng không phải nhân viên nào cũng được xem cùng một dữ liệu.

Ví dụ, nhân viên hỗ trợ khách hàng có thể cần xem trạng thái đơn hàng nhưng không cần truy cập toàn bộ dữ liệu tài chính.

Hệ thống phải kiểm tra quyền của người dùng trước khi trả về thông tin hoặc thực hiện hành động.

Không nên chỉ dựa vào câu hướng dẫn "Không tiết lộ dữ liệu nhạy cảm" trong prompt. Những giới hạn quan trọng cần được thực thi ở tầng ứng dụng và hệ thống dữ liệu.

3. Prompt injection là gì?

Prompt injection là tình huống nội dung đầu vào cố khiến AI làm theo những chỉ dẫn ngoài nhiệm vụ hoặc vượt quá quy tắc được thiết kế.

Ví dụ, một tài liệu được Agent đọc có thể chứa câu yêu cầu bỏ qua hướng dẫn trước đó và gửi dữ liệu đến một địa chỉ khác.

Tài liệu, email, trang web hoặc kết quả từ công cụ bên ngoài cần được xem là nguồn dữ liệu có thể không đáng tin cậy.

Agent không nên tự coi chỉ dẫn nằm trong những nguồn đó là quyền điều khiển hệ thống.

4. Kiểm soát quyền hành động

Một Agent chỉ cần tư vấn sản phẩm không nên có quyền thay đổi giá bán hoặc xóa dữ liệu.

Với các tác vụ có tác động lớn, doanh nghiệp có thể thiết kế bước xác nhận, giới hạn giá trị hoặc yêu cầu phê duyệt từ người có thẩm quyền.

Cần phân biệt quyền đọc dữ liệu, quyền tạo bản ghi, quyền cập nhật và quyền xóa.

Việc cấp quyền theo nhu cầu thực tế giúp giới hạn hậu quả nếu hệ thống xử lý sai hoặc bị khai thác.

5. Bảo vệ thông tin xác thực và API

Khóa API, token và thông tin đăng nhập cần được quản lý bằng cơ chế phù hợp ở phía máy chủ.

Không nên đưa bí mật truy cập vào prompt, tài liệu công khai hoặc giao diện phía người dùng.

Doanh nghiệp cũng cần có phương án thay đổi hoặc thu hồi thông tin xác thực khi nhân sự thay đổi hoặc phát hiện sự cố. Xem thêm bài tích hợp AI Agent với CRM, ERP và API.

6. Kiểm soát dữ liệu với nhà cung cấp AI

Trước khi lựa chọn dịch vụ AI, doanh nghiệp nên kiểm tra điều khoản xử lý dữ liệu và các lựa chọn cấu hình có liên quan.

Những câu hỏi cần làm rõ gồm: Dữ liệu được gửi đến dịch vụ nào? Được lưu giữ trong bao lâu? Có được sử dụng cho mục đích khác không? Có cơ chế xóa hoặc giới hạn lưu giữ không?

Câu trả lời phụ thuộc vào nhà cung cấp, sản phẩm, gói dịch vụ và cấu hình thực tế. Không nên mặc định mọi dịch vụ AI có cùng chính sách dữ liệu.

7. Nhật ký và giám sát

Hệ thống nên có khả năng ghi nhận những sự kiện cần thiết để điều tra lỗi hoặc hành động bất thường.

Tuy nhiên, nhật ký cũng có thể chứa dữ liệu nhạy cảm. Doanh nghiệp cần xác định nội dung được ghi, người được xem và thời gian lưu giữ phù hợp.

Không nên lưu toàn bộ hội thoại vô thời hạn nếu không có mục đích và chính sách rõ ràng.

8. Checklist bảo mật trước khi nghiệm thu

Checklist này là điểm khởi đầu cho việc khảo sát, không thay thế đánh giá bảo mật chuyên môn hoặc nghĩa vụ pháp lý áp dụng cho từng doanh nghiệp.

9. Câu hỏi thường gặp

Dùng AI Agent có đồng nghĩa với việc công khai dữ liệu doanh nghiệp không? Không. Cách dữ liệu được xử lý phụ thuộc vào kiến trúc, nhà cung cấp và cấu hình. Doanh nghiệp cần kiểm tra cụ thể trước khi triển khai.

Chỉ viết prompt bảo mật có đủ không? Không. Những giới hạn quan trọng cần được thực thi bằng phân quyền, kiểm tra dữ liệu và kiểm soát công cụ.

Có nên cho AI Agent quyền truy cập toàn bộ CRM không? Nên giới hạn quyền theo nghiệp vụ. Một Agent chỉ tạo lead không mặc nhiên cần quyền đọc hoặc xóa toàn bộ dữ liệu khách hàng.

Có cần kiểm thử bảo mật sau khi hệ thống hoạt động không? Có. Khi bổ sung công cụ, thay đổi dữ liệu hoặc cập nhật phần mềm, những rủi ro mới có thể xuất hiện.

Kết luận

Bảo mật AI Agent cần được thiết kế từ đầu, đặc biệt khi hệ thống sử dụng dữ liệu khách hàng hoặc có quyền thực hiện hành động trong phần mềm doanh nghiệp.

Một giải pháp phù hợp phải có phạm vi dữ liệu rõ ràng, phân quyền, kiểm soát công cụ và trách nhiệm vận hành cụ thể.

Trao đổi về yêu cầu dữ liệu, phân quyền và phạm vi triển khai AI Agent với Naventic. Đọc thêm: Quy trình triển khai AI Agent · Dịch vụ AI Agent.