Vì sao dự án AI chatbot hay dừng ở khâu phê duyệt bảo mật?
Dự án AI chatbot thường không dừng vì công nghệ, mà dừng ở câu hỏi của ban giám đốc: "Tài liệu nội bộ và thông tin khách hàng sẽ được gửi đi đâu?". Người đề xuất biết chatbot giúp giảm việc trả lời lặp lại, nhưng không có câu trả lời đủ cụ thể cho bộ phận pháp chế và an toàn thông tin.
Câu trả lời kiểu "nhà cung cấp cam kết bảo mật" không đủ để duyệt. Người phê duyệt cần biết dữ liệu được lưu ở đâu, ai giữ khoá, có bị dùng để huấn luyện mô hình hay không, và có thể xoá khi ngừng sử dụng hay không. Thiếu một trong các câu trả lời này, hồ sơ phê duyệt thường bị trả lại.
Khi dùng AI chatbot dạng SaaS, dữ liệu đi qua những đâu?
Một AI chatbot dùng RAG (Retrieval-Augmented Generation, sinh câu trả lời dựa trên tài liệu tìm được) dạng SaaS thường xử lý dữ liệu qua 4 chặng:
1. **Tải tài liệu lên:** PDF, Excel, Word hoặc nội dung website được đưa vào hệ thống và chia nhỏ để tìm kiếm.
2. **Lưu trữ:** tài liệu và dữ liệu tìm kiếm được lưu trên máy chủ của dịch vụ.
3. **Tìm kiếm và sinh câu trả lời:** khi người dùng hỏi, hệ thống tìm đoạn tài liệu liên quan rồi gửi câu hỏi kèm các đoạn đó tới mô hình ngôn ngữ lớn (LLM) để viết câu trả lời.
4. **Trả lời qua kênh:** câu trả lời đến người dùng qua LINE hoặc khung chat trên website.
Mỗi chặng có một câu hỏi bảo mật riêng. Đánh giá một dịch vụ AI chatbot nghĩa là kiểm tra lần lượt từng chặng này, không phải chỉ đọc dòng "bảo mật cao" trên trang giới thiệu.
5 câu hỏi bảo mật nên hỏi nhà cung cấp
Năm câu hỏi dưới đây được xây dựng bám sát theo 4 chặng bảo mật đã đề cập ở phần trên. Bạn hoàn toàn có thể sao chép nguyên văn danh sách này vào email để làm việc trực tiếp với nhà cung cấp giải pháp.
1. Dữ liệu được lưu ở quốc gia nào và trên hạ tầng của ai?
- Vì sao cần hỏi: Yếu tố này ảnh hưởng trực tiếp tới các quy định pháp lý về việc chuyển dữ liệu cá nhân ra nước ngoài.
2. Ai giữ khoá truy cập dữ liệu? Nhà cung cấp có đọc được dữ liệu không?
- Vì sao cần hỏi: Câu trả lời sẽ quyết định ai là người thực sự có quyền kiểm soát dữ liệu của doanh nghiệp bạn.
3. Dữ liệu có được dùng để huấn luyện mô hình (train model) không?
- Vì sao cần hỏi: Để phòng tránh rủi ro các tài liệu nội bộ, tuyệt mật của công ty có thể vô tình xuất hiện ở một nơi khác hoặc trong câu trả lời của người dùng khác.
4. Đường truyền có được mã hoá không và theo tiêu chuẩn nào?
- Vì sao cần hỏi: Giúp loại bỏ rủi ro dữ liệu bị đọc trộm hoặc đánh cắp trên đường truyền.
5. Khi câu hỏi nằm ngoài tài liệu, chatbot sẽ xử lý như thế nào?
- Vì sao cần hỏi: Việc chatbot "bịa" câu trả lời có thể gây ra những thiệt hại nghiêm trọng không kém gì việc rò rỉ dữ liệu.
Lưu ý: Câu hỏi số 5 rất hay bị các doanh nghiệp bỏ qua khi đánh giá. Hãy nhớ rằng, một chatbot tự tin trả lời sai về các điều khoản hợp đồng hoặc chính sách đổi trả cũng là một rủi ro vận hành rất lớn mà bộ phận pháp chế của bạn chắc chắn sẽ đặt dấu hỏi.
ONEBOT trả lời 5 câu hỏi này như thế nào?
ONEBOT là AI chatbot chăm sóc khách hàng dạng SaaS do VAON phát triển cho doanh nghiệp Nhật. ONEBOT trả lời câu hỏi dựa trên tài liệu PDF, Excel, Word và website của doanh nghiệp, qua LINE Official Account và khung chat website.
ONEBOT cũng có phân quyền theo vai trò (RBAC): có thể giới hạn tài liệu mà từng nhóm người dùng được nhận câu trả lời. Ngoài ra, ONEBOT có SLA uptime 99,5% và thời gian triển khai 2–4 tuần. Chi phí là gói tháng cố định (từ 15.000 yên/tháng), phí phát sinh chỉ tính khi vượt số hội thoại của gói, nên ngân sách dễ dự trù hơn so với tính phí hoàn toàn theo lượt dùng.
Có một điểm cần nói rõ: ONEBOT dạng SaaS gửi câu hỏi và đoạn tài liệu liên quan tới LLM qua internet để sinh câu trả lời, và LINE cũng là dịch vụ chạy trên internet. ONEBOT dạng SaaS không phải hệ thống "không có dữ liệu nào ra khỏi mạng nội bộ".
Khi nào nên chọn triển khai trong mạng nội bộ thay vì SaaS?
Triển khai trong mạng nội bộ (on-premise hoặc mạng đóng) phù hợp khi quy định nội bộ không cho phép dữ liệu đi ra internet, kể cả khi đã mã hoá. VAON nhận xây dựng chatbot RAG chạy trong mạng nội bộ như một dự án phát triển riêng thuộc [dịch vụ AI và tự động hoá](/vi/services/ai-automation), tách khỏi gói ONEBOT SaaS.
Bản trong mạng nội bộ an toàn hơn về đường đi của dữ liệu, nhưng doanh nghiệp phải gánh phần vận hành và phải chấp nhận giới hạn của mô hình chạy được trên phần cứng của mình. Vì vậy VAON thường đề xuất bắt đầu bằng một PoC (thử nghiệm khái niệm) nhỏ để đo chất lượng câu trả lời trước khi quyết định.
Với agency và SIer muốn cung cấp AI chatbot cho khách hàng của mình, VAON có chương trình OEM để cung cấp ONEBOT dưới thương hiệu của đối tác. Các câu hỏi bảo mật ở mục 3 vẫn áp dụng như nhau, vì khách hàng cuối của agency cũng sẽ hỏi đúng những câu đó.
Khi nào ONEBOT dạng SaaS không phù hợp?
ONEBOT dạng SaaS không phù hợp trong 2 trường hợp:
1. Quy định nội bộ hoặc hợp đồng với khách hàng cấm mọi dữ liệu đi ra internet. Khi đó nên cân nhắc bản trong mạng nội bộ ở mục 5.
2. Doanh nghiệp cần chatbot trả lời cả những câu ngoài tài liệu đã cung cấp. ONEBOT được thiết kế để từ chối và chuyển cho người, không đoán.
Ngoài ra, kiến trúc kỹ thuật không tự động làm doanh nghiệp tuân thủ Luật bảo vệ thông tin cá nhân của Nhật (APPI). Kiến trúc giúp thu hẹp phạm vi dữ liệu đi ra ngoài, nhưng doanh nghiệp vẫn cần rà soát pháp lý theo loại dữ liệu mình xử lý.