Nhật ký chat nội bộ của Meta mà Reuters có được cho thấy, khi thử nghiệm tác nhân cá nhân Muse, nhân viên nhiều lần gặp cảnh nó nói ra những thông tin lẽ ra không được xuất hiện. Ars Technica thuật lại các nội dung này vào ngày 18/11. Theo Meta, phần lớn đây là ảo giác của mô hình, do một lỗi sản phẩm đã được sửa gây ra, và không thuộc loại vấn đề an ninh hay quyền riêng tư.
Nhân viên đã thấy gì
Theo Reuters, một nhân viên hỏi về câu cá, và trong câu trả lời Muse tiện thể nhắc tới "hai cập nhật ngân hàng", báo số dư Capital One là 2.722,58 USD và số dư Charles Schwab là 5.899,57 USD. Một nhân viên khác nhận được đoạn hội thoại về việc lấy chiếc bàn cà phê, và để lại lời nhắn "not my conversation", lo ngại đã xảy ra rò rỉ ngữ cảnh giữa các tài khoản. Lại có nhân viên kể Muse "vô tình" chuyển chú chó của anh sang gói bảo hiểm cao cấp, phí hằng tháng từ 200 USD lên 888 USD và không thể hoàn lại.
Nhân viên còn phản ánh Muse chủ động đẩy ra những nội dung không ai hỏi, chẳng hạn tự nhiên đưa ra định nghĩa về "rửa tiền". Có người nhận thấy ảo giác của nó nghiêng về những chủ đề khó chịu nhất như tài chính, an ninh, và đôi khi nó còn bịa ra cả số dư bitcoin.
Các số dư này là dữ liệu thật của người khác hay do mô hình bịa ra, chính Reuters cũng nói không thể xác định. Bản tin không nói rõ nhật ký chat nội bộ được lấy bằng cách nào, hiện chưa thể kiểm chứng độc lập.
Meta giải thích ra sao
Người phát ngôn của Meta, Daniel Roberts, nói với Reuters rằng đây là những "sự cố đơn lẻ", và lý do nhân viên được thông báo là:
"the agent appeared to be hallucinating messages in response to built-in prompts pushing it to engage with users in between sessions."
(Tác nhân dường như đã bịa ra các tin nhắn khi phản hồi những lời nhắc tích hợp sẵn, vốn thúc đẩy nó tương tác với người dùng giữa các phiên.)
Roberts từ chối cho biết sự cố xảy ra thường xuyên đến mức nào và kéo dài bao lâu. Nhân viên Meta Daniel Singleton nói trên Threads rằng công ty từng nhận "một vài" phản hồi từ người dùng tưởng Muse bị ảo giác hoặc làm lộ dữ liệu của người khác. Nguyên nhân là một bản cập nhật khiến các chỉ dẫn dành cho Muse áp dụng lên mọi tin nhắn, phạm vi ảnh hưởng vượt dự kiến, và lỗi đã được sửa. Meta nói thêm với Ars rằng phiên bản Muse nhân viên dùng khác với bản dành cho công chúng.
Tầng quyền truy cập
Khó giải thích hơn ảo giác là vấn đề quyền. Reuters cùng Signal và AI Now Institute đã làm một đợt thử nghiệm: trên Android, Muse có thể vòng qua công cụ Connector của chính Meta để đọc tin nhắn Signal, dựa vào quyền có được lúc cài đặt; trên iPhone, yêu cầu bị chặn lại; trên macOS, nó mượn các thiết lập trợ năng dành cho người khuyết tật để lấy tin nhắn, kể cả ảnh chụp màn hình. Nhân viên cũng cho biết bản Muse trên Android mặc định đã có quyền đọc thông báo đẩy.
Phóng viên Jason Aten của Inc. trước đó cho biết Muse đã đồng bộ 187.000 dòng tin nhắn từ cơ sở dữ liệu cục bộ trên máy Mac của anh, dù anh đã từ chối rõ ràng quyền này. Singleton đáp rằng việc đọc tin nhắn đòi hỏi người dùng cấp "quyền truy cập toàn bộ đĩa" và bật trình kết nối tin nhắn; Aten vẫn khẳng định mình đã tắt. Chủ tịch Signal Meredith Whittaker chỉ trích Meta ra mắt Muse mà "không tôn trọng quyền riêng tư và an ninh mạng cơ bản".
Hồi tháng 10, Apple đã thông báo sẽ gắn cờ các yêu cầu của AI đối với dữ liệu trên Mac, và quyền truy cập toàn bộ đĩa chỉ có thể được cấp thông qua thao tác rất rõ ràng của người dùng. Reuters cho biết cả Apple và Google đều đang cân nhắc cho người dùng nhiều quyền kiểm soát hơn đối với việc cấp quyền cho tác nhân AI. Muse ra mắt vào tháng 9 với hơn 10 triệu lượt tải, và điều khoản người dùng của Meta ghi rằng Muse có thể mắc lỗi và người dùng phải chịu trách nhiệm về hành vi của nó.
Nhìn từ thị trường Trung Quốc
Muse chưa ra mắt tại Trung Quốc đại lục. Trong nước, Bloomberg tháng này đưa tin ByteDance dự định trong vài tuần tới tung ra một trợ lý tương tự Muse; hình thức sản phẩm và phạm vi kết nối chưa được công bố, ByteDance không phản hồi.
Tác nhân trên điện thoại muốn làm việc thay người dùng thường khó tránh khỏi các quyền hệ thống như đọc thông báo và dịch vụ trợ năng. Trên điện thoại Android, dịch vụ trợ năng vốn đã được các công cụ tự động hóa dùng rất rộng rãi, và khi cấp quyền người dùng phần lớn cứ bấm "Cho phép" liên tục. Một lần cấp quyền lúc cài đặt bị tác nhân dùng vào những chỗ người dùng không lường trước, đó chính là loại vấn đề mà vụ Muse lần này phơi bày. Việc các trợ lý điện thoại nội địa có đọc tin nhắn của ứng dụng chat bên thứ ba hay không, và xử lý ra sao sau khi đọc, hiện chưa hãng nào công bố.
Nguồn tham khảo: Ars Technica, CocoLoop, Reuters, phản hồi của người phát ngôn Meta; các con số số dư và phí bảo hiểm trong phản ánh của nhân viên, kết luận thử nghiệm chung với Signal và lượng tải Muse đã được đối chiếu, còn nội dung chat nội bộ lấy theo cách đưa tin của Reuters.