Khi nào doanh nghiệp nên kết hợp RAG và AI Agent

RAG giúp AI Agent mở đúng trang tài liệu trước khi trả lời

Một mô hình AI được huấn luyện trên lượng kiến thức khổng lồ từ internet. Nó biết luật lao động nói chung, biết cách viết email, biết giải thích thuế giá trị gia tăng. Nhưng nó không biết công ty bạn cho nhân viên nghỉ phép bao nhiêu ngày, không biết gói bảo hành của bạn kéo dài 12 hay 24 tháng.

Hỏi những câu như vậy, AI không có RAG sẽ làm 1 trong 2 việc. Trả lời chung chung. Hoặc tệ hơn, trả lời rất tự tin một con số nghe hợp lý nhưng sai.

RAG giải quyết đúng chỗ này. Trước khi trả lời, hệ thống tìm trong kho tài liệu nội bộ những đoạn liên quan nhất đến câu hỏi, đưa các đoạn đó cho AI đọc, rồi AI mới soạn câu trả lời dựa trên nội dung vừa đọc. Giống một nhân viên được phép mở sổ tay công ty ra tra trước khi trả lời khách, thay vì đoán theo trí nhớ.

Đặt RAG và AI Agent cạnh nhau, vai trò mỗi bên khá rõ. RAG lo phần tìm và đọc. AI Agent lo phần hiểu yêu cầu, quyết định bước tiếp theo và hành động, chẳng hạn tạo phiếu hỗ trợ hay gửi email xác nhận. Một AI Agent có thể hoạt động tốt mà không cần RAG, nếu công việc của nó không đòi hỏi tra cứu tài liệu.

5 dấu hiệu doanh nghiệp đã cần RAG

Không cần hiểu kỹ thuật để nhận ra thời điểm phù hợp. Chỉ cần nhìn vào tài liệu và câu hỏi mà đội ngũ đang phải xử lý mỗi ngày.

1. Tài liệu nội bộ đã vượt quá vài chục trang, nằm rải rác ở nhiều nơi như file Word, PDF, Google Drive, trang web nội bộ.

2. Nhân viên mất nhiều thời gian hỏi nhau hoặc lục tìm file cũ chỉ để trả lời một câu hỏi của khách.

3. Chính sách, bảng quy định hay hướng dẫn sản phẩm được cập nhật hằng tháng, thậm chí hằng tuần.

4. Câu trả lời cần dẫn được nguồn, ví dụ "theo mục 3.2 quy chế lương 2026", để người hỏi kiểm tra lại được.

5. Cùng một câu hỏi, mỗi nhân viên lại trả lời một kiểu vì mỗi người nhớ một phiên bản tài liệu khác nhau.

Có từ 2 dấu hiệu trở lên, RAG gần như chắc chắn mang lại giá trị. Dấu hiệu thứ 5 đáng chú ý nhất. Nó cho thấy vấn đề không nằm ở tốc độ trả lời mà ở sự nhất quán, và đây là chỗ kết hợp RAG và AI Agent phát huy rõ nhất: mọi câu trả lời đều xuất phát từ cùng một nguồn tài liệu chính thức.

Không phải bài toán nào cũng giải bằng RAG

Đây là phần nhiều doanh nghiệp bỏ lỡ khi mới triển khai RAG và AI Agent.

Trường hợp đầu tiên là khi tài liệu quá ít. Một tiệm spa có 3 trang bảng giá và 1 trang chính sách đặt lịch thì chỉ cần đưa thẳng nội dung đó vào phần hướng dẫn của AI. Dựng cả hệ thống tìm kiếm cho 4 trang giấy là tốn công không cần thiết.

Trường hợp thứ 2 là dữ liệu thay đổi từng giờ. Giá khuyến mãi, tồn kho, lịch trống của bác sĩ không nên nằm trong kho tài liệu RAG, vì bản tài liệu luôn chậm hơn thực tế. Loại dữ liệu này cần AI Agent lấy trực tiếp từ phần mềm qua kết nối, như đã phân tích trong bài AI Agent và dữ liệu thời gian thực.

Trường hợp thứ 3 ít người để ý hơn: câu hỏi cần tính toán. "Doanh thu quý 3 của chi nhánh Thủ Đức là bao nhiêu" không phải câu hỏi tra tài liệu. RAG tìm đoạn văn, không cộng số. Bài toán này cần AI truy vấn đúng bảng dữ liệu và tính toán, cách chuẩn bị được trình bày trong bài hỏi dữ liệu doanh thu bằng ngôn ngữ tự nhiên.

Một nhận định từ thực tế triển khai: lỗi phổ biến nhất là đưa bảng giá dạng Excel vào kho RAG rồi thắc mắc vì sao AI báo giá sai. RAG cắt tài liệu thành từng đoạn để tìm kiếm. Một bảng giá bị cắt ngang có thể khiến tên sản phẩm nằm ở đoạn này còn giá nằm ở đoạn khác. Dữ liệu có cấu trúc dạng bảng nên được xử lý bằng cách khác.

Doanh nghiệp của bạn đang ở mức nào

Bảng dưới đây giúp ước lượng nhanh nên dùng RAG và AI Agent theo hướng nào, dựa trên khối lượng và tính chất tài liệu:

Phần lớn doanh nghiệp vừa và nhỏ ở Việt Nam rơi vào mức 1 hoặc mức 2. Mức 3 thường là doanh nghiệp có nhiều chi nhánh hoặc hoạt động trong lĩnh vực nhiều quy định như tài chính, y tế, sản xuất.

Mức 1 lên mức 2 có thể diễn ra rất nhanh. Một công ty bắt đầu với vài trang câu hỏi thường gặp, 6 tháng sau đã muốn AI trả lời cả hướng dẫn kỹ thuật, điều khoản bảo hành và quy trình đổi trả. Thiết kế hệ thống sao cho dễ bổ sung RAG về sau sẽ tiết kiệm hơn nhiều so với làm lại.

Một câu hỏi nội bộ đi qua RAG và AI Agent như thế nào

Ví dụ sau mang tính minh họa, trong bối cảnh AI hỗ trợ nhân viên tra cứu chính sách công ty.

Nhân viên hỏi: "Em mới vào làm được 4 tháng, giờ muốn nghỉ phép 3 ngày cuối tháng 10 được không?"

AI Agent nhận ra đây là câu hỏi về chính sách nghỉ phép, cần tra tài liệu. RAG tìm trong kho và trả về 2 đoạn phù hợp nhất: mục quy định nghỉ phép năm trong sổ tay nhân sự bản 2026, và mục quy định thời gian thử việc.

AI trả lời: "Theo mục 4.1 sổ tay nhân sự 2026, nhân viên đã qua thử việc được tính phép năm theo tháng làm việc thực tế, mỗi tháng 1 ngày. Với 4 tháng làm việc, bạn hiện có 4 ngày phép, đủ cho 3 ngày nghỉ. Bạn có muốn tôi tạo đơn xin nghỉ gửi quản lý trực tiếp không?"

Câu trả lời có nguồn cụ thể, và bước cuối là hành động. Đó là cách RAG và AI Agent chia việc trong cùng một yêu cầu. RAG lo phần "chính sách nói gì", AI Agent lo phần "vậy giờ làm gì tiếp". Nếu thiếu RAG, AI hoặc không biết quy định, hoặc trả lời theo luật lao động chung. Nếu thiếu AI Agent, nhân viên nhận được câu trả lời đúng nhưng vẫn phải tự mở phần mềm làm đơn.

Còn một lớp nữa phía sau. Nhân viên này chỉ nên thấy chính sách chung, không được thấy bảng lương hay hồ sơ của đồng nghiệp, dù các tài liệu đó cùng nằm trong kho. Cách tách quyền tra cứu như vậy được bàn kỹ trong bài AI Agent tra cứu chính sách nhân sự mà không lộ dữ liệu nội bộ.

RAG không sửa được tài liệu kém

RAG giỏi tìm. Nó không giỏi phân xử.

Nếu kho tài liệu có 2 bản chính sách đổi trả, bản 2024 cho phép đổi trong 7 ngày và bản 2026 cho phép 15 ngày, RAG có thể lấy nhầm bản cũ, hoặc lấy cả 2 khiến AI trả lời mâu thuẫn. Tài liệu scan mờ, file PDF chỉ chứa hình ảnh, bảng biểu phức tạp cũng làm giảm độ chính xác của bước tìm kiếm. Những lỗi này nằm ở dữ liệu đầu vào chứ không nằm ở công nghệ, và chỉ con người mới dọn được.

Vì vậy, trước khi triển khai RAG và AI Agent, việc đáng làm nhất thường là rà lại kho tài liệu: bỏ bản cũ, gộp bản trùng, ghi rõ ngày hiệu lực, chỉ định người chịu trách nhiệm cập nhật từng nhóm tài liệu. Quy trình chi tiết cho việc này có trong bài xây dựng kho kiến thức cho AI Agent từ FAQ, PDF và website.

Kinh nghiệm cho thấy doanh nghiệp dành 1 đến 2 tuần dọn tài liệu trước khi đưa vào RAG thường tiết kiệm được nhiều tuần sửa lỗi câu trả lời về sau.

Câu hỏi thường gặp

RAG và AI Agent có phải là một không?

Không. RAG là cách giúp AI tìm và đọc tài liệu nội bộ trước khi trả lời. AI Agent là hệ thống hiểu yêu cầu, ra quyết định và thực hiện công việc, có thể dùng RAG như một công cụ.

Doanh nghiệp nhỏ có cần RAG không?

Không nhất thiết. Nếu tài liệu chỉ vài chục trang và ít thay đổi, đưa thẳng vào hướng dẫn của AI là đủ. RAG nên được tính đến khi tài liệu tăng lên hoặc cập nhật thường xuyên.

Dùng RAG thì AI có còn trả lời sai không?

Có, nhưng ít hơn nhiều. Sai sót chủ yếu đến từ tài liệu cũ, mâu thuẫn hoặc khó đọc. Kho tài liệu càng sạch, câu trả lời càng chính xác.

Có nên đưa bảng giá và tồn kho vào RAG không?

Không nên. Dữ liệu thay đổi liên tục hoặc dạng bảng số nên được AI Agent lấy trực tiếp từ phần mềm quản lý. RAG phù hợp hơn với tài liệu dạng văn bản như chính sách, hướng dẫn, quy trình.

Tài liệu nội bộ đưa vào RAG có bị lộ ra ngoài không?

Không, nếu hệ thống được thiết lập đúng. Kho tài liệu cần được lưu trữ có kiểm soát và phân quyền theo người hỏi. Doanh nghiệp nên hỏi rõ bên triển khai về nơi lưu trữ và cách phân quyền trước khi bắt đầu.