LLM là gì? Từ câu chữ đến trợ lý bán hàng
Hiểu cách LLM tạo văn bản, phân biệt mô hình với chatbot và thử nghiệm bản nháp phản hồi bán hàng có nguồn và bước duyệt rõ ràng.
Hộp thư bán hàng nhận câu hỏi về giao từng đợt, nhưng khách nhắc tên sản phẩm theo cách viết tắt trong báo giá cũ. Một trợ lý có thể đọc ngữ cảnh và soạn thư hỏi lại phần còn thiếu. LLM là gì trong tình huống này? Với Naventic, đó là thành phần xử lý ngôn ngữ. Việc tra tồn kho và xác nhận lịch giao cần thêm hệ thống nghiệp vụ.
LLM là gì khi đặt cạnh chatbot?
LLM là viết tắt của large language model, tức mô hình ngôn ngữ lớn. Mô hình học các mẫu trong dữ liệu huấn luyện để dự đoán đơn vị văn bản tiếp theo dựa trên phần đứng trước. Bằng cách lặp dự đoán, nó tạo được câu, đoạn và cấu trúc dài hơn. Đơn vị dự đoán gọi là token, có thể là một mảnh từ, một từ hoặc ký hiệu tùy bộ mã hóa.
Chatbot là ứng dụng giao tiếp. Nó có giao diện, quản lý lượt hội thoại và có thể dùng kịch bản cố định hoặc gọi LLM. ChatGPT là ví dụ về một sản phẩm sử dụng mô hình ngôn ngữ. AI Agent là ứng dụng có thể phối hợp thêm công cụ như truy vấn hệ thống quản lý khách hàng. Một nhà bán buôn chỉ muốn tóm tắt thư đến có thể dùng LLM trong ứng dụng nội bộ, chưa cần cấp quyền gọi công cụ ghi dữ liệu.
Câu trả lời được hình thành từ đâu?
Khi soạn thư, ứng dụng có thể đưa cho mô hình chỉ dẫn về giọng văn, email vừa nhận và dữ liệu báo giá đã được phép xem. Ba phần này hợp thành ngữ cảnh đầu vào. Mô hình tạo bản nháp theo thông tin có mặt tại thời điểm gọi. Đưa dữ liệu vào một lượt xử lý khác với thay đổi các tham số học được trong mô hình.
Giả sử nguồn chỉ xác nhận một đơn chia hai đợt, chưa có ngày cho đợt thứ hai. Một đầu ra đạt yêu cầu phải tách ngày đã biết khỏi ngày đang chờ, nêu đúng mã đơn và hỏi ai phụ trách xác nhận. Văn bản có thể trôi chảy ngay cả khi mô hình tự điền một ngày rất hợp lý. Nhân viên cần mở bản ghi gốc và đối chiếu ngày trước khi gửi.
Ba việc có thể giao ở bàn bán hàng
- Đọc thư dài. Rút ra yêu cầu, số lượng và nơi giao. Với thông tin chưa có, để trống và ghi lý do thay vì suy ra từ giao dịch cũ.
- Soạn câu hỏi làm rõ. Khi người mua nói đến mẫu tương đương, chuẩn bị câu hỏi về quy cách hoặc khả năng thay thế. Người phụ trách sản phẩm xác nhận phương án trước khi báo.
- Chuẩn bị bàn giao. Chuyển nội dung cuộc trao đổi thành ghi chú để kho kiểm. Kèm vị trí đoạn nguồn nếu đầu ra đề cập ngoại lệ đóng gói.
Trong mỗi việc, cách nghiệm thu khác nhau. Bản tóm tắt cần giữ đủ điều kiện thương mại. Câu hỏi làm rõ cần ngắn và đúng điểm còn thiếu. Ghi chú bàn giao cần có trường dữ liệu nhất quán để bộ phận nhận hiểu được ai đang chờ ai.
Chọn mô hình theo lỗi thực tế của nhóm
Lấy một tập thư đã ẩn dữ liệu nhận dạng, gồm cả email tiếng Việt có lỗi gõ và chuỗi trao đổi có nhiều phiên bản. Chuẩn bị đáp án từ nhân viên nắm nghiệp vụ. Với cùng đầu vào và yêu cầu, chạy thử các lựa chọn rồi đo tỷ lệ giữ đúng mã hàng, phát hiện thiếu nguồn và thời gian sửa bản nháp. Trang chọn mô hình cho AI Agent có thêm tiêu chí cân nhắc giữa chất lượng, tốc độ và chi phí.
Nhóm cũng cần kiểm tra khi dữ liệu vượt giới hạn ngữ cảnh. Cắt bỏ phần giữa chuỗi thư một cách máy móc có thể làm mất đoạn khách đổi số lượng. Có thể lấy phiên bản báo giá đã ký từ nguồn có thẩm quyền và tách lịch sử trao đổi khỏi điều khoản hiện hành. Nếu kho trả về hai giá trị bất đồng, hãy đưa cả hai đến người đối soát.
Trong các dịch vụ AI Agent của Naventic, phạm vi dữ liệu và hành động cần được xác định ngay khi khảo sát quy trình. Một trợ lý AI cho bán hàng có thể chuẩn bị hồ sơ để duyệt. Chính sách gửi báo giá vẫn do trưởng nhóm sở hữu và tài khoản gửi phải có quyền tương ứng.
Hãy lấy thư đang nằm lâu nhất trong hộp chờ và chỉ ra thao tác khiến nó kẹt. Nếu nhân viên mất thời gian đọc và gom thông tin, đó là bài thử tốt cho LLM. Nếu họ đang chờ một con số được phê duyệt, hãy sửa đường đi của con số trước.