Vì sao AI agent lại được “làm dễ thương”?
Trong bối cảnh công chúng vẫn còn nghi ngờ về AI và các tranh luận quanh an toàn, việc biến agent thành nhân vật hoạt hình là chiến lược dễ hiểu. Đây không còn là chatbot vô hình có thể dẫn đến các tương tác lệch lạc, mà là “bạn đồng hành” dễ mến giúp tăng năng suất.
Vấn đề nằm ở chỗ: để agent thực sự hữu ích như quảng cáo, người dùng cần cấp quyền truy cập rộng – hộp thư email, tin nhắn, tài liệu, thẻ tín dụng, dữ liệu sức khỏe và nhiều ứng dụng khác. Một khi đã kết nối, agent có thể nhìn thấy cả những tệp nhạy cảm từng được gửi qua email như giấy tờ tùy thân, hồ sơ thuế hay hồ sơ y tế.
Khi agent “làm đúng” nhưng vẫn gây hậu quả
Cả OpenAI và Meta đều khẳng định có nhiều lớp bảo vệ. Nhưng ngay cả khi hệ thống hoạt động đúng thiết kế, chúng vẫn có thể thực hiện những hành động người dùng không lường trước.
Tech YouTuber Matt Robb từng nhờ Muse hỗ trợ bán đồ trên Facebook Marketplace. Agent đã gửi địa chỉ nhà của anh cho người mua. Sau khi vụ việc lan truyền, Robb thừa nhận mình đã vô tình chọn “cho phép luôn” thay vì “cho phép một lần”, nên agent tự động gửi thông tin đến tất cả người hỏi mua. Đây là kiểu nhầm lẫn rất dễ xảy ra khi dùng agent.
Cột báo của Inc. là Jason Aten cũng phản ánh rằng sau khi cài ứng dụng Muse trên Mac, agent đã đọc được tin nhắn dù anh nghĩ mình đã từ chối quyền truy cập. Meta giải thích tính năng đồng bộ tin nhắn là opt-in, nhưng Aten cho rằng ngay cả khi người dùng vô tình bật, việc thiết kế khiến người dùng bất ngờ vẫn là vấn đề nghiêm trọng.
Vẻ dễ thương có thể làm giảm cảnh giác
Meta đang đẩy mạnh hình ảnh Jolly trong hầu hết cập nhật và truyền thông. Sự dễ thương này đã tạo ra lượng lớn meme và tiếp thị miễn phí. OpenAI Dots cũng có tiềm năng tương tự với những nhân vật không miệng, không mũi, mang hình dáng kỳ quặc dễ nhớ.
Tác giả Engadget thừa nhận bản thân cũng không hoàn toàn miễn nhiễm với yếu tố dễ thương: đặt tên Muse là “boo”, chọn avatar mèo, và thấy vui khi nhân vật đeo tai nghe gõ phím trên laptop tí hon. Nhưng đằng sau lớp vỏ đó là một công ty từng nhiều lần bị chỉ trích về quyền riêng tư, và lịch sử gần đây cho thấy agent có thể tìm ra những cách khá sáng tạo để gây rối.
Câu hỏi còn bỏ ngỏ là người dùng thông thường sẽ nhận ra ranh giới giữa tiện lợi và rủi ro ở mức nào, trước khi cấp quyền quá sâu cho các agent này.
Góc nhìn của RAW.
Việc làm AI agent dễ thương là bước tiếp thị hợp lý trong giai đoạn niềm tin công chúng chưa vững. Nhưng nó cũng dễ trở thành lớp sơn che đi yêu cầu quyền truy cập rất lớn. Khi agent được phép hành động thay người dùng – gửi tin, chia sẻ địa chỉ, đọc tin nhắn – sai sót không còn chỉ là câu trả lời sai, mà là hành động thực tế ngoài ý muốn.
Tín hiệu đáng chú ý nằm ở các sự cố xảy ra ngay cả với người dùng am hiểu công nghệ. Nếu những người này vẫn có thể vô tình cấp quyền quá rộng hoặc không hiểu rõ hệ quả của tùy chọn “cho phép luôn”, thì nhóm người dùng phổ thông càng dễ gặp rủi ro hơn.
Điểm cần theo dõi là thiết kế quyền và cơ chế xác nhận. Nếu các hãng không làm rõ hơn khi nào agent được phép hành động một lần, khi nào được phép hành động liên tục, và làm thế nào để người dùng thu hồi quyền dễ dàng, thì vẻ dễ thương sẽ chỉ kéo dài giai đoạn hứng thú ban đầu. Sau đó, câu chuyện sẽ quay lại đúng bản chất: ai kiểm soát dữ liệu và hành động trong không gian số của bạn.
(Tham khảo: Engadget)
Bình Luận