Xây dựng AI Center of Excellence cho doanh nghiệp như thế nào?

Sau vài dự án AI đầu tiên, nhiều doanh nghiệp gặp cùng một tình huống: phòng kinh doanh có chatbot riêng, phòng kế toán thuê một đơn vị làm agent đọc hóa đơn, phòng nhân sự tự thử một công cụ tóm tắt CV. Mỗi dự án chọn mô hình, cách lưu dữ liệu và cách đo khác nhau. Không ai biết tổng chi phí là bao nhiêu, dự án nào đang tạo giá trị, và bài học của nhóm này có đến được nhóm kia không.

AI Center of Excellence (CoE) là một đơn vị được lập ra để giải quyết đúng vấn đề đó: gom năng lực, tiêu chuẩn và kinh nghiệm về AI vào một chỗ để các bộ phận triển khai nhanh hơn mà không mỗi nơi một kiểu. Bài viết đi vào cách tổ chức và vận hành CoE như một đơn vị năng lực: chọn mô hình tổ chức, đặt tiêu chuẩn, xây nền tảng dùng chung, quản lý thư viện use case, đào tạo, đo giá trị và quản trị danh mục dự án.

1. CoE là đơn vị năng lực, không phải hội đồng hay bản chiến lược

Ba khái niệm hay bị trộn lẫn khi doanh nghiệp bắt đầu nghiêm túc với AI. Chiến lược AI trả lời câu hỏi doanh nghiệp dùng AI để đạt mục tiêu kinh doanh nào và đầu tư theo thứ tự nào; nội dung đó có ở bài chiến lược AI Agent. Hội đồng hoặc ủy ban quản trị AI là cơ chế ra quyết định về rủi ro: việc gì phải được duyệt, ai duyệt, ngưỡng nào không được vượt; xem bài hội đồng quản trị AI. CoE là đơn vị thực thi: những người có kỹ năng, quy trình và công cụ để biến chiến lược thành dự án chạy được, trong khuôn khổ mà hội đồng đặt ra.

Nói cách khác, chiến lược nói làm gì, hội đồng nói điều gì được phép, còn CoE giúp làm cho đúng và làm lại được nhiều lần. Một doanh nghiệp vừa có thể gộp cả ba vào một nhóm nhỏ, nhưng vẫn nên tách rõ vai trò để biết khi nào đang bàn chiến lược, khi nào đang duyệt rủi ro và khi nào đang triển khai.

2. Các yếu tố cần thiết kế

1. Mô hình tổ chức

Có ba mô hình phổ biến. Mô hình tập trung đặt toàn bộ đội AI ở một đơn vị, các bộ phận gửi yêu cầu và CoE thực hiện; cách này dễ giữ tiêu chuẩn nhưng dễ thành nút thắt khi nhu cầu tăng. Mô hình liên bang để mỗi bộ phận có người làm AI riêng, CoE chỉ đặt tiêu chuẩn và điều phối; cách này nhanh và sát nghiệp vụ nhưng khó giữ đồng nhất. Mô hình hub-and-spoke kết hợp hai cách: trung tâm giữ nền tảng, tiêu chuẩn và chuyên gia sâu, còn mỗi bộ phận có một vài đầu mối am hiểu nghiệp vụ làm việc cùng trung tâm.

Doanh nghiệp mới bắt đầu thường chọn tập trung với đội nhỏ, rồi chuyển dần sang hub-and-spoke khi số bộ phận có nhu cầu tăng. Điều quan trọng là viết rõ trách nhiệm: ai đề xuất use case, ai xây, ai vận hành sau khi bàn giao, ai trả chi phí.

2. Tiêu chuẩn

CoE ban hành những tiêu chuẩn mà mọi dự án AI phải theo: cách chọn và phê duyệt mô hình, cách lưu và bảo vệ dữ liệu, mẫu tài liệu thiết kế, bộ tiêu chí nghiệm thu, yêu cầu về nhật ký và giám sát, quy trình thay đổi phiên bản. Tiêu chuẩn nên ngắn, có ví dụ và có mẫu dùng ngay, nếu không các bộ phận sẽ coi đó là thủ tục cản trở. Với việc nhân viên tự dùng công cụ AI bên ngoài, CoE thường là nơi soạn và cập nhật chính sách sử dụng AI nội bộ.

3. Thư viện use case

Thư viện use case là nơi ghi lại mọi ý tưởng, dự án đang làm và dự án đã chạy: mô tả vấn đề, bộ phận sở hữu, dữ liệu dùng, cách tiếp cận, kết quả đo được, bài học và trạng thái. Khi một bộ phận mới muốn làm điều tương tự, họ bắt đầu từ thư viện thay vì từ con số không. Thư viện cũng giúp phát hiện trùng lặp, như hai bộ phận cùng muốn làm agent tra cứu tài liệu nội bộ, để gộp thành một dự án dùng chung.

4. Dữ liệu

Hầu hết dự án AI vướng ở dữ liệu chứ không ở mô hình. CoE không sở hữu dữ liệu nghiệp vụ, nhưng cần làm việc với chủ sở hữu dữ liệu để có danh mục nguồn, chất lượng tối thiểu và cách cấp quyền nhất quán cho dự án AI. Những việc chuẩn bị như làm sạch, chuẩn hóa định dạng và xác định nguồn có thẩm quyền được trình bày ở bài chuẩn bị dữ liệu cho AI Agent. Vai trò của CoE là biến những việc này thành quy trình lặp lại được cho mọi dự án.

5. Nền tảng

Nền tảng dùng chung là những thành phần mọi dự án đều cần: kết nối tới các nhà cung cấp mô hình, kho kiến thức và công cụ truy xuất, lớp xác thực và phân quyền, hệ thống nhật ký và giám sát, môi trường thử nghiệm, bộ công cụ kiểm thử. Xây một lần và dùng lại giúp dự án sau nhanh hơn và an toàn hơn. Tuy vậy, không nên xây nền tảng quá sớm và quá lớn trước khi có vài dự án thật; nền tảng nên lớn dần từ những thành phần đã được chứng minh là cần.

6. Đào tạo

CoE chịu trách nhiệm nâng năng lực AI cho cả tổ chức ở nhiều tầng. Lãnh đạo cần hiểu AI làm được gì và không làm được gì để ra quyết định đầu tư. Trưởng bộ phận cần biết cách nhận ra use case tốt và cách làm việc với đội triển khai. Người dùng cuối cần biết cách dùng agent và báo lỗi. Đầu mối AI ở các bộ phận trong mô hình hub-and-spoke cần đào tạo sâu hơn về thiết kế, kiểm thử và vận hành. Nội dung đào tạo tốt nhất lấy từ chính các dự án trong thư viện.

7. Đo giá trị

Nếu không đo được giá trị, CoE sẽ bị nhìn như một trung tâm chi phí. Mỗi dự án cần có chỉ số nghiệp vụ được thống nhất trước khi làm, có mốc đo trước triển khai và cách so sánh sau triển khai. CoE tổng hợp giá trị ở cấp danh mục: chi phí đầu tư và vận hành, lợi ích đo được, rủi ro đã giảm. Cách tính cho từng dự án có ở bài ROI của AI Agent và KPI cho AI Agent; ở cấp CoE, điều quan trọng là mọi dự án dùng cùng một cách đo để so sánh được.

8. Quản trị danh mục

Danh mục dự án AI cần được quản lý như một danh mục đầu tư: định kỳ xem dự án nào nên mở rộng, dự án nào cần sửa, dự án nào nên dừng. CoE chuẩn bị thông tin cho các buổi xem xét này, gồm giá trị, chi phí, rủi ro và mức sử dụng của từng dự án, còn quyết định ưu tiên đầu tư thuộc về lãnh đạo theo chiến lược, và các quyết định về rủi ro thuộc về hội đồng. Dừng một dự án không tạo giá trị cũng là thành công của quản trị danh mục, vì nó giải phóng nguồn lực cho dự án tốt hơn.

3. Quy trình thành lập CoE

Bước 1: Xác định nhiệm vụ và quyền hạn của CoE

Viết một văn bản ngắn nêu CoE được lập để làm gì, phục vụ ai, có quyền gì với các dự án AI trong doanh nghiệp (tư vấn, bắt buộc tuân thủ tiêu chuẩn, hay duyệt), báo cáo cho ai và được cấp ngân sách thế nào. Quyền hạn không rõ là lý do phổ biến khiến CoE bị các bộ phận bỏ qua.

Bước 2: Chọn mô hình tổ chức và nhân sự nòng cốt

Chọn mô hình phù hợp với quy mô hiện tại và lộ trình vài năm tới. Nhân sự nòng cốt thường gồm người điều phối có hiểu biết nghiệp vụ, kỹ sư tích hợp và dữ liệu, người phụ trách an toàn thông tin, và đầu mối ở các bộ phận ưu tiên. Doanh nghiệp cũng cần quyết định phần nào tự làm và phần nào dùng đơn vị bên ngoài; các yếu tố cân nhắc có ở bài tự xây hay thuê đơn vị triển khai AI Agent.

Bước 3: Ban hành bộ tiêu chuẩn tối thiểu và thư viện use case

Không cần chờ hoàn chỉnh. Bắt đầu với vài tiêu chuẩn quan trọng nhất như phê duyệt mô hình, bảo vệ dữ liệu, nhật ký và nghiệm thu, cùng thư viện ghi lại các dự án đang có. Bổ sung dần theo nhu cầu thực tế.

Bước 4: Dẫn dắt vài dự án mẫu rồi mở rộng

CoE chứng minh giá trị bằng dự án chứ không bằng văn bản. Chọn vài use case có giá trị rõ và rủi ro vừa phải, làm cùng bộ phận sở hữu, áp đầy đủ tiêu chuẩn, đo kết quả và đưa vào thư viện. Cách chọn và chạy dự án thí điểm có ở bài thí điểm AI Agent. Sau đó mới mở rộng sang các bộ phận khác theo mô hình đã chọn.

4. Ví dụ giả định

Một tập đoàn bán lẻ có năm công ty con, mỗi công ty đã tự làm vài dự án AI. Tập đoàn lập CoE theo mô hình hub-and-spoke: trung tâm gồm một nhóm nhỏ lo nền tảng, tiêu chuẩn và đo giá trị; mỗi công ty con cử một đầu mối AI. Việc đầu tiên của CoE là kiểm kê mọi dự án hiện có vào thư viện use case, và phát hiện ba công ty con cùng làm chatbot tra cứu chính sách nhân sự với ba cách khác nhau.

CoE đề xuất gộp thành một agent dùng chung trên nền tảng chung, với kho kiến thức tách theo từng công ty con. Hội đồng quản trị AI của tập đoàn duyệt yêu cầu phân quyền dữ liệu nhân sự. Phần xây dựng và tích hợp được giao cho một đơn vị triển khai bên ngoài, CoE giữ vai trò đặt yêu cầu, nghiệm thu theo tiêu chuẩn và theo dõi vận hành. Mỗi quý, CoE trình bảng danh mục với giá trị, chi phí và rủi ro của từng dự án để lãnh đạo quyết định ưu tiên. Ví dụ này là giả định để minh họa cách tổ chức.

5. Rủi ro và giới hạn

• CoE trở thành nút thắt khi mọi dự án phải xếp hàng chờ một đội nhỏ
• Tiêu chuẩn nặng thủ tục khiến các bộ phận lách bằng cách tự làm ngoài CoE
• Nền tảng dùng chung được xây quá sớm, tốn công cho thành phần chưa ai cần
• Không đo được giá trị nên CoE bị cắt ngân sách ở đợt rà soát đầu tiên

CoE không phải lời giải cho mọi doanh nghiệp. Với doanh nghiệp nhỏ chỉ có một hai dự án AI, một người điều phối kiêm nhiệm với bộ tiêu chuẩn ngắn có thể đủ. CoE đáng đầu tư khi số dự án, số bộ phận tham gia và mức rủi ro đủ lớn để sự thiếu phối hợp gây lãng phí thật.

6. Phân chia trách nhiệm vận hành

Lãnh đạo cấp cao bảo trợ CoE, phê duyệt nhiệm vụ, ngân sách và quyết định ưu tiên danh mục. Hội đồng quản trị AI quyết định về rủi ro và các ngưỡng không được vượt. CoE sở hữu tiêu chuẩn, nền tảng dùng chung, thư viện use case, chương trình đào tạo và báo cáo giá trị. Các bộ phận nghiệp vụ sở hữu use case, dữ liệu nghiệp vụ và kết quả kinh doanh của dự án. Đơn vị triển khai bên ngoài, nếu có, xây dựng và tích hợp theo tiêu chuẩn của CoE và bàn giao rõ ràng cho đội vận hành.

Trách nhiệm vận hành sau bàn giao cần được chốt trước khi dự án bắt đầu. Nếu không, CoE sẽ dần phải gánh vận hành mọi agent đã xây và không còn thời gian cho việc phát triển năng lực.

7. Chỉ số nên theo dõi

• Số dự án trong danh mục theo trạng thái và tỷ lệ dự án được mở rộng hay dừng
• Thời gian từ khi đề xuất use case đến khi có bản chạy thử
• Tỷ lệ dự án tuân thủ đủ tiêu chuẩn tối thiểu khi nghiệm thu
• Giá trị đo được so với chi phí ở cấp danh mục, theo cùng một phương pháp

Số lượng dự án không phải thước đo thành công của CoE. Một danh mục ít dự án nhưng mỗi dự án đều được dùng thật và đo được giá trị tốt hơn nhiều so với hàng chục thử nghiệm bỏ dở. Mức độ các bộ phận chủ động tìm đến CoE, thay vì đi đường vòng, cũng là tín hiệu cho thấy CoE đang giúp chứ không cản.

8. Checklist trước khi vận hành

• Văn bản nhiệm vụ, quyền hạn, cấp báo cáo và ngân sách của CoE đã được duyệt
• Mô hình tổ chức và trách nhiệm đề xuất, xây, vận hành, chi trả đã viết rõ
• Ranh giới với hội đồng quản trị AI và người sở hữu chiến lược đã thống nhất
• Bộ tiêu chuẩn tối thiểu có mẫu dùng ngay
• Thư viện use case đã kiểm kê các dự án hiện có
• Phương pháp đo giá trị thống nhất cho mọi dự án

9. Câu hỏi thường gặp

Doanh nghiệp vừa có cần AI Center of Excellence không? Không nhất thiết phải là một phòng riêng. Khi mới có vài dự án, một người điều phối kiêm nhiệm với bộ tiêu chuẩn ngắn và thư viện use case là đủ. Khi nhiều bộ phận cùng làm AI và bắt đầu trùng lặp, đó là lúc nên chính thức hóa CoE.

CoE khác gì hội đồng quản trị AI? Hội đồng là cơ chế ra quyết định về rủi ro và các ngưỡng được phép. CoE là đơn vị có năng lực triển khai: tiêu chuẩn, nền tảng, thư viện use case, đào tạo và đo giá trị. Hai bên phối hợp nhưng không nên gộp vai trò.

Nên chọn mô hình tập trung hay hub-and-spoke? Tập trung phù hợp khi mới bắt đầu và cần giữ tiêu chuẩn chặt. Hub-and-spoke phù hợp khi nhiều bộ phận có nhu cầu và cần người hiểu nghiệp vụ ở từng nơi. Nhiều doanh nghiệp bắt đầu tập trung rồi chuyển dần sang hub-and-spoke.

CoE có nên tự xây mọi AI Agent không? Không bắt buộc. CoE có thể giữ vai trò đặt yêu cầu, tiêu chuẩn và nghiệm thu, còn phần xây dựng và tích hợp giao cho đơn vị bên ngoài. Điều quan trọng là doanh nghiệp giữ được hiểu biết về hệ thống, dữ liệu và khả năng vận hành sau bàn giao.

Kết luận

AI Center of Excellence là đơn vị năng lực giúp doanh nghiệp làm AI nhiều lần mà vẫn nhất quán: chọn mô hình tổ chức phù hợp, đặt tiêu chuẩn gọn, xây nền tảng dùng chung khi đã cần, quản lý thư viện use case, đào tạo nhiều tầng, đo giá trị cùng một cách và quản trị danh mục như một danh mục đầu tư. Tách rõ CoE với chiến lược và hội đồng quản trị AI giúp mỗi bên làm đúng việc của mình.

Trao đổi với Naventic để khảo sát, xây dựng và tích hợp các AI Agent trong danh mục của CoE. Đọc thêm: Dịch vụ.