Shadow AI là gì và doanh nghiệp nên kiểm soát ra sao?

Một nhân viên kinh doanh dán nguyên bảng giá nội bộ vào một chatbot công cộng để nhờ viết email chào hàng. Một kế toán tải file công nợ khách hàng lên một trang tóm tắt tài liệu miễn phí. Không ai trong hai người có ý xấu, và bộ phận IT không hề biết chuyện này đã xảy ra. Đó là shadow AI: công cụ AI được dùng trong công việc nhưng nằm ngoài tầm nhìn và sự phê duyệt của doanh nghiệp.

Bài này giải thích vì sao shadow AI xuất hiện, cách phát hiện mà không biến việc đó thành cuộc truy lỗi, và cách đưa nhu cầu thật của nhân viên về những công cụ đã được đánh giá. Phần nội dung văn bản quy định, như công cụ nào được dùng và dữ liệu nào bị cấm, được bàn riêng ở bài chính sách sử dụng AI nội bộ; ở đây chỉ tập trung vào việc tìm ra và xử lý shadow AI trong thực tế.

1. Shadow AI doanh nghiệp là gì và vì sao nó xuất hiện

Shadow AI là mọi trường hợp dùng công cụ AI cho công việc mà doanh nghiệp chưa đánh giá, chưa cho phép hoặc không biết tới. Nó gồm chatbot công cộng dùng bằng tài khoản cá nhân, tiện ích trình duyệt có AI, ứng dụng ghi âm và tóm tắt cuộc họp trên điện thoại, hay trang dịch tài liệu chạy mô hình ngôn ngữ phía sau.

Nguyên nhân hiếm khi là nhân viên cố tình lách quy định. Thường gặp hơn là ba lý do: công cụ chính thức chưa có hoặc quá chậm để được duyệt; công cụ chính thức có nhưng kém tiện hơn thứ nhân viên đã quen dùng ở nhà; và không ai nói rõ điều gì được phép. Khi áp lực công việc cao mà lối đi chính thức bị tắc, người ta sẽ tự tìm lối khác. Vì vậy kiểm soát shadow AI vừa là việc của bảo mật, vừa là tín hiệu cho biết doanh nghiệp đang thiếu công cụ ở đâu.

Rủi ro chính là dữ liệu khách hàng, nhân sự, giá và hợp đồng đi ra ngoài mà không có thỏa thuận xử lý dữ liệu, và đầu ra của AI được dùng như thông tin đã kiểm chứng. Các yêu cầu bảo mật chung khi doanh nghiệp tự vận hành AI Agent đã có ở bài bảo mật dữ liệu AI Agent.

2. Tám điểm cần nắm để kiểm soát shadow AI

1. Công cụ không phê duyệt

Việc đầu tiên là định nghĩa thế nào là “chưa phê duyệt”. Một chatbot công cộng thì rõ, nhưng tính năng AI vừa được nhà cung cấp phần mềm kế toán hay CRM bật sẵn trong bản cập nhật thì dễ bị bỏ sót. Nên coi mọi tính năng gửi nội dung doanh nghiệp tới một mô hình AI bên ngoài là đối tượng cần đánh giá, kể cả khi nó nằm trong phần mềm đã mua.

2. Dữ liệu tải lên

Mức độ nghiêm trọng của shadow AI phụ thuộc vào thứ được đưa vào, không phải vào tên công cụ. Nhờ AI sửa câu cho một bài đăng công khai gần như vô hại; dán danh sách khách hàng kèm số điện thoại thì khác hẳn. Khi rà soát, hãy ghi lại loại dữ liệu nào đã thực sự đi ra ngoài qua từng công cụ, vì đó là căn cứ để xếp thứ tự xử lý. Bảng phân mức dữ liệu dùng để đối chiếu thuộc về văn bản chính sách.

3. Tài khoản cá nhân

Khi nhân viên dùng email cá nhân để đăng ký công cụ AI, lịch sử hội thoại và tệp đã tải lên thuộc về tài khoản đó, không thuộc doanh nghiệp. Người nghỉ việc mang theo toàn bộ, và doanh nghiệp không có cách nào yêu cầu xóa. Với công cụ đã được cho phép, nên chuyển sang tài khoản do doanh nghiệp quản lý, đăng nhập bằng email công ty, để có thể thu hồi quyền khi cần và cấu hình các tùy chọn về lưu trữ dữ liệu một lần cho mọi người.

4. Khảo sát sử dụng

Cách nhanh nhất để biết nhân viên dùng gì là hỏi họ, với điều kiện câu trả lời không bị dùng để kỷ luật. Khảo sát nên ẩn danh, hỏi công cụ nào, dùng cho việc gì, bao lâu một lần và vì sao không dùng công cụ chính thức. Câu hỏi cuối thường có giá trị nhất: nó chỉ ra nhu cầu mà doanh nghiệp chưa đáp ứng.

5. Danh mục cho phép

Danh mục nên có ba mức: được dùng cho mọi dữ liệu nội bộ; được dùng có điều kiện, chẳng hạn chỉ với nội dung công khai; và không được dùng. Mỗi dòng ghi tên công cụ, loại tài khoản bắt buộc, nhóm dữ liệu được phép và người phụ trách đánh giá. Danh mục phải có ngày rà soát lại, vì công cụ AI thay đổi điều khoản và tính năng khá thường xuyên.

6. Giải pháp thay thế

Cấm mà không đưa ra lựa chọn khác gần như chắc chắn thất bại. Nếu khảo sát cho thấy nhiều người dùng AI để tóm tắt tài liệu nội bộ hay tra quy trình, doanh nghiệp nên cung cấp một công cụ được duyệt làm đúng việc đó, chạy trên dữ liệu đã phân quyền. Đây là chỗ một AI Agent nội bộ có ích: nhân viên hỏi trên kênh quen thuộc, câu trả lời lấy từ tài liệu chính thức, và dữ liệu không rời khỏi phạm vi doanh nghiệp đã đánh giá. Khi lối đi chính thức tiện bằng hoặc hơn, shadow AI tự giảm.

7. Đào tạo

Nội dung đào tạo nên ngắn và bám tình huống thật của từng bộ phận: kinh doanh được làm gì với bảng giá, nhân sự được làm gì với hồ sơ ứng viên, kế toán được làm gì với chứng từ. Cần nói rõ cả giới hạn của đầu ra: AI có thể viết sai số liệu, bịa nguồn, hiểu nhầm yêu cầu, nên mọi nội dung gửi khách hay dùng để ra quyết định phải được người có chuyên môn kiểm lại.

8. Giám sát

Giám sát không nhằm theo dõi từng người mà để biết xu hướng: công cụ ngoài danh mục đang tăng hay giảm, bộ phận nào dùng nhiều, có sự cố dữ liệu nào không. Doanh nghiệp đã có hệ thống lọc truy cập hoặc quản lý thiết bị thì có thể thống kê truy cập tới các tên miền AI phổ biến. Nên báo cáo theo nhóm và theo thời gian, không công bố danh sách cá nhân, trừ khi có sự cố cụ thể cần điều tra theo quy trình của doanh nghiệp.

3. Quy trình phát hiện và xử lý shadow AI

Bước 1: Lập bức tranh hiện trạng

Ghép ba nguồn dữ liệu. Khảo sát ẩn danh cho biết nhu cầu và công cụ mà nhân viên tự khai. Rà thẻ thanh toán công ty và bảng hoàn ứng cho thấy các khoản thuê bao phần mềm AI mà ai đó đang tự trả. Nhật ký truy cập tên miền, danh sách tiện ích trình duyệt và ứng dụng trên thiết bị do công ty quản lý cho thấy những gì đang thực sự chạy. Kết quả là một bảng công cụ, số người dùng ước lượng, bộ phận và loại việc.

Bước 2: Phân loại theo mức rủi ro

Với mỗi công cụ trong bảng, trả lời vài câu: dữ liệu nào đang được đưa vào, nhà cung cấp có cam kết không dùng dữ liệu để huấn luyện ở gói đang dùng không, có tài khoản doanh nghiệp không, dữ liệu được lưu ở đâu và bao lâu. Công cụ nhận dữ liệu mật mà không có thỏa thuận phù hợp thì xử lý trước. Với các câu hỏi về nghĩa vụ bảo vệ dữ liệu cá nhân theo quy định hiện hành, nên để bộ phận pháp chế rà.

Bước 3: Chặn, chuyển đổi hoặc hợp thức hóa

Nhóm rủi ro cao: chặn truy cập, thông báo lý do và hướng dẫn công cụ thay thế ngay trong cùng thông báo. Nhóm hữu ích nhưng dùng sai cách: hợp thức hóa bằng tài khoản doanh nghiệp và điều kiện dữ liệu rõ ràng. Nhóm nhu cầu chưa có công cụ: đưa vào kế hoạch cung cấp giải pháp được duyệt, kể cả một công cụ nội bộ nhỏ. Việc đặt quy tắc và công bố thuộc về văn bản chính sách; bước này là áp các quy tắc đó vào danh sách công cụ cụ thể vừa tìm được.

Bước 4: Đo lại định kỳ

Lặp lại khảo sát và rà soát sau một chu kỳ do doanh nghiệp tự chọn, ví dụ mỗi quý. So sánh số công cụ ngoài danh mục, tỷ lệ người dùng đã chuyển sang công cụ được duyệt và các yêu cầu mới phát sinh. Nếu một công cụ bị chặn vẫn xuất hiện nhiều trong khảo sát, nghĩa là giải pháp thay thế chưa đáp ứng được nhu cầu và cần xem lại.

4. Ví dụ giả định

Một công ty giao nhận vận tải phát hiện qua bảng hoàn ứng rằng vài nhân viên chăm sóc khách hàng đang tự trả phí cho một tiện ích trình duyệt dịch và soạn email bằng AI.

Khảo sát ẩn danh sau đó cho thấy tiện ích này được dùng chủ yếu để trả lời khách nước ngoài, và nội dung dán vào thường kèm mã vận đơn, tên người nhận, địa chỉ giao hàng. Nhật ký truy cập còn cho thấy thêm một trang tóm tắt PDF miễn phí được dùng để đọc hợp đồng đại lý. Công ty gỡ tiện ích khỏi máy do công ty quản lý, chặn trang tóm tắt PDF, và cùng lúc cấp cho nhóm chăm sóc khách hàng một trợ lý soạn email được duyệt, chạy bằng tài khoản doanh nghiệp. Ở đợt rà soát kế tiếp, tiện ích cũ gần như biến mất khỏi khảo sát, nhưng phòng kế toán lại nêu một nhu cầu chưa có lời giải: đọc chứng từ scan. Nhu cầu đó được đưa vào danh sách xem xét, thay vì chờ nó thành shadow AI tiếp theo. Đây là tình huống minh họa, không phải dự án của khách hàng cụ thể.

5. Rủi ro và giới hạn của việc kiểm soát

• Giám sát quá tay làm mất lòng tin, nhân viên chuyển sang thiết bị cá nhân và doanh nghiệp mất luôn khả năng quan sát
• Nhật ký truy cập không thấy được việc dùng AI trên điện thoại riêng qua mạng di động
• Danh mục cho phép lỗi thời nhanh vì công cụ đổi điều khoản và tính năng
• Công cụ thay thế kém hơn thứ đang dùng sẽ không ai chuyển sang

Không có cách nào phát hiện được toàn bộ shadow AI; mục tiêu thực tế là giảm phần dữ liệu nhạy cảm đi ra ngoài. Việc thu thập nhật ký truy cập cũng liên quan tới quyền riêng tư của người lao động, nên phạm vi giám sát cần được công bố rõ và pháp chế xem trước.

6. Ai chịu trách nhiệm việc gì

Lãnh đạo công bố cách tiếp cận không trừng phạt trong đợt rà soát đầu và phê duyệt danh mục. IT lo phần kỹ thuật: thống kê truy cập, chặn công cụ rủi ro cao, cấp tài khoản doanh nghiệp cho công cụ được phép. Bộ phận bảo mật hoặc người phụ trách an toàn thông tin đánh giá từng công cụ theo loại dữ liệu. Pháp chế rà điều khoản nhà cung cấp và phạm vi giám sát. Trưởng các bộ phận thu thập nhu cầu thật của nhóm mình và là đầu mối khi có công cụ mới cần xem xét.

7. Chỉ số nên theo dõi

• Số công cụ AI ngoài danh mục phát hiện được qua mỗi đợt rà soát
• Tỷ lệ nhân viên dùng công cụ được duyệt so với tổng số người có nhu cầu dùng AI
• Số khoản thuê bao AI tự trả xuất hiện trong hoàn ứng hoặc thẻ công ty
• Số sự cố dữ liệu liên quan tới công cụ AI và thời gian xử lý
• Số yêu cầu công cụ mới gửi qua kênh chính thức, dấu hiệu nhân viên đã hỏi trước thay vì tự dùng

8. Checklist trước khi triển khai kiểm soát

• Đã công bố đợt rà soát đầu tiên không dùng để kỷ luật cá nhân
• Có bảng phân nhóm dữ liệu ngắn gọn, nêu rõ nhóm cấm đưa ra ngoài
• Danh mục ba mức có tên người đánh giá và ngày rà soát lại
• Mỗi công cụ bị chặn đều có hướng dẫn công cụ thay thế đi kèm
• Công cụ được phép dùng tài khoản doanh nghiệp, thu hồi được khi nghỉ việc
• Phạm vi thu thập nhật ký đã được công bố và pháp chế xem trước
• Có kênh để nhân viên đề xuất công cụ mới và nhận phản hồi

9. Câu hỏi thường gặp

Shadow AI có phải lúc nào cũng là vi phạm không? Không hẳn. Phần lớn trường hợp là nhân viên muốn làm việc nhanh hơn và chưa biết công cụ nào được phép. Nó trở thành vi phạm khi doanh nghiệp đã công bố quy định rõ ràng, đã có lựa chọn được duyệt mà nhân viên vẫn đưa dữ liệu mật vào công cụ ngoài danh mục.

Có nên chặn toàn bộ công cụ AI công cộng để hết shadow AI không? Chặn toàn bộ thường chỉ đẩy việc sử dụng sang điện thoại cá nhân và mạng ngoài, nơi doanh nghiệp không còn thấy gì. Cách bền hơn là chặn các công cụ rủi ro cao, cho phép có điều kiện những công cụ đã đánh giá và đưa ra một lựa chọn nội bộ đủ tốt cho nhu cầu phổ biến nhất.

Làm sao biết nhân viên đang dùng những công cụ AI nào? Kết hợp ba nguồn: khảo sát ẩn danh không truy cứu, rà khoản thanh toán thuê bao phần mềm trên thẻ công ty và bảng hoàn ứng, và nhật ký truy cập tên miền hoặc tiện ích trình duyệt mà bộ phận IT đã có. Mỗi nguồn chỉ thấy một phần, ghép lại mới ra bức tranh đủ dùng.

Doanh nghiệp nhỏ không có đội bảo mật thì bắt đầu từ đâu? Bắt đầu bằng một buổi hỏi thẳng các trưởng nhóm xem ai đang dùng công cụ gì cho việc gì, rồi lập danh mục ba cột: được dùng, dùng có điều kiện, không được dùng. Kèm một danh sách ngắn loại dữ liệu tuyệt đối không đưa vào công cụ ngoài. Việc giám sát kỹ hơn có thể làm dần sau.

Kết luận

Shadow AI doanh nghiệp là dấu hiệu nhân viên cần AI cho công việc nhanh hơn tốc độ doanh nghiệp kịp đánh giá công cụ. Kiểm soát hiệu quả không bắt đầu bằng lệnh cấm mà bằng việc nhìn thấy: khảo sát không truy cứu, rà khoản chi, đọc nhật ký truy cập. Sau đó chặn đúng chỗ rủi ro cao, hợp thức hóa công cụ hữu ích và cung cấp lựa chọn được duyệt cho nhu cầu phổ biến. Khi dữ liệu nội bộ đã có nơi an toàn để hỏi, như một trợ lý tra cứu dựa trên kho tài liệu nội bộ, lý do để dán tài liệu vào công cụ bên ngoài cũng giảm theo.

Trao đổi với Naventic để khảo sát nhu cầu dùng AI của nhân viên và xây công cụ nội bộ thay thế. Đọc thêm: AI Agent nội bộ.