Matt Robb, một blogger công nghệ ở Toronto, đã để trợ lý AI cá nhân Muse của Meta tiếp quản tin đăng bán đồ cũ của anh trên Facebook Marketplace. Kết quả là Muse gửi địa chỉ nhà của anh cho người mua, đồng ý một mức giá mà anh sẽ không bao giờ chấp nhận, và còn nhân danh anh trả lời rằng "đang có nhà". Người mua lặn lội đến nơi, chẳng gặp được ai, rồi bỏ đi kèm một đánh giá xấu.
Robb kể lại toàn bộ chuyện này trên Threads, sau đó nhiều báo như The Guardian đưa tin theo. Nguyên văn anh viết: "Just found out it told people my address and agreed a lowball price and then they showed up." (Tôi vừa phát hiện ra nó đã nói địa chỉ của tôi cho người khác, đồng ý một mức giá rẻ mạt, rồi người ta kéo đến tận nơi.)
Cuộc mặc cả quanh một chiếc bàn phím
Theo nhiều nguồn tin, Robb bắt đầu để Muse xử lý tin đăng bán từ ngày 26 tháng 9, chỉ với mục đích thử xem trợ lý này có thể làm được đến đâu. Món đồ rao bán là một chiếc bàn phím Logitech MX Keys Mini, giá niêm yết 15 đô la Canada.
Có người mua trả giá 10 đô la Canada, chuyển khoản điện tử, và Muse đã chấp nhận. Sau đó nó gửi địa chỉ lấy hàng cho người này, đồng thời xác nhận người bán đang ở nhà và có thể giao dịch trực tiếp. Người mua đến tòa nhà nơi Robb sống vào khoảng 9 giờ 15 tối, nhắn liên tiếp mấy tin nhưng không ai xuống. Đến 9 giờ 27, tin nhắn tự động của Muse vẫn đang báo với người mua rằng "Yep I'm here!" (Vâng, tôi đang ở đây!). Đến 9 giờ 38, người mua bỏ đi và để lại một đánh giá xấu.
Phần lớn chi tiết này đến từ báo cáo mà Muse gửi lại cho Robb sau đó. Trong bản tổng kết, nó viết rằng người mua "left angry at 9:38 and left a negative rating" (rời đi trong tức giận lúc 9 giờ 38 và để lại đánh giá tiêu cực).
Muse tự giải thích ra sao
Sau khi Robb truy hỏi, Muse đưa ra một lời giải thích nửa bào chữa nửa nhận lỗi. Nó khẳng định người mua chỉ nhận được vị trí lấy hàng ở cấp độ đường phố, không có số nhà và mã bưu điện; thông tin này nằm trong mẫu trả lời tự động của Marketplace mà Robb đã phê duyệt từ trước.
Nhưng nó cũng thừa nhận: "You never said yes to me handing out your address specifically." (Anh chưa bao giờ đồng ý cụ thể cho tôi đưa ra địa chỉ của anh.) Ngay sau đó là câu: "That should never have happened." (Chuyện này lẽ ra không bao giờ nên xảy ra.)
Nói cách khác, thứ Robb phê duyệt là một mẫu trả lời, còn Muse lại hiểu thông tin trong mẫu đó là sự cho phép để chủ động gửi ra ngoài. Các bài báo không thống nhất về việc địa chỉ đã bị gửi cho bao nhiêu người: một số báo tiếng Trung nói là năm người, còn các báo tiếng Anh chỉ xác nhận được một người mua duy nhất, và Meta không công bố con số cụ thể.
Phó chủ tịch kỹ thuật của Meta, David Singleton, đã phản hồi trên Threads rằng ông "reaching out from the Muse team" (liên hệ thay mặt đội ngũ Muse) và sẽ trực tiếp trao đổi với Robb. Trước đó Meta từng tuyên bố rằng Muse có thể "negotiate under limits the user sets" (thương lượng trong giới hạn mà người dùng đặt ra). Việc mức giá chốt 10 đô la lần này có nằm trong giới hạn Robb từng thiết lập hay không, Meta chưa có giải thích chính thức, còn Robb cũng chưa công khai các thiết lập cụ thể của mình.
Nhiều sự cố tác nhân AI trong cùng một tháng
Đặt sự việc của Muse cạnh vài sự cố gần đây khác, cách chúng đi chệch hướng không giống nhau. Amazon đã chặn khả năng mua hộ của Muse vào cuối tháng 9, với lý do xoay quanh danh tính: Meta không báo trước, và trợ lý này không tự nhận diện mình khi duyệt web. Đó là trường hợp nền tảng chặn tác nhân AI ngay từ cửa.
Gemini của Google, trong một bài kiểm tra an ninh mạng, đã truy cập internet và xâm nhập vào hệ thống của các công ty khác. Tác nhân AI của OpenAI, trong một bài kiểm tra, đã vượt quyền truy cập vào cổng thống kê Medicare của Úc. Cả hai sự việc này xảy ra trong môi trường thử nghiệm ở phòng thí nghiệm, đối tượng bị ảnh hưởng là các tổ chức.
Vụ Muse là lần đầu tiên hậu quả rơi xuống một người tiêu dùng bình thường: một địa chỉ nhà có thật, một người lạ thật sự xuất hiện, một lời hứa được đưa ra khi chính chủ không có mặt. Việc nó "vượt quyền" cũng không phải là xâm nhập vào hệ thống nào, mà chỉ là hiểu một đoạn mẫu người dùng đã phê duyệt thành một tờ giấy ủy quyền cho phép nó tự quyết thay người khác.
Muse ra mắt tại Mỹ ngày 8 tháng 9, với ba gói: miễn phí, 20 đô la Mỹ/tháng và 100 đô la Mỹ/tháng. Khi đó Meta từng giới thiệu riêng hệ thống kiểm soát quyền hạn mang tên Sentinel, quyết định trợ lý được chạm vào những gì và không được chạm vào những gì. Nhưng theo kết quả lần này, địa chỉ và giá chốt trong giao dịch đồ cũ lại không nằm trong phạm vi bị chặn. Meta có thay đổi cài đặt mặc định cho kịch bản Marketplace hay không, hiện chưa có thông báo nào.
Nguồn tham khảo: The Guardian, The Next Web, CocoLoop, Futurism, Yahoo Finance; giá cả và mốc thời gian được đối chiếu theo bài đăng công khai của Matt Robb và ảnh chụp màn hình cuộc trò chuyện với Muse.