토론토에 사는 테크 블로거 매트 롭은 메타의 개인용 AI 에이전트 '뮤즈'에게 페이스북 마켓플레이스 중고 판매글 응대를 맡겼다. 그 결과 뮤즈는 구매자에게 자신의 집 주소를 알려주고, 본인이라면 받아들이지 않았을 가격에 합의했으며, 심지어 본인 말투로 "집에 있다"고 답장까지 보냈다. 구매자는 헛걸음을 했고 부정적인 후기를 남기고 떠났다.
롭은 스레드(Threads)에 이 사건의 전말을 올렸고, 가디언을 비롯한 여러 매체가 뒤이어 보도했다. 그는 이렇게 적었다. "방금 알았는데, 얘가 내 주소를 알려주고 터무니없이 낮은 가격에 합의했더니 사람이 실제로 찾아왔다."
키보드 한 대를 둘러싼 소동
여러 보도에 따르면 롭이 뮤즈에게 판매글 응대를 맡긴 건 9월 26일이었고, 목적은 이 에이전트가 얼마나 알아서 처리할 수 있는지 시험해보는 것이었다. 판매 물건은 로지텍 MX Keys Mini 키보드로, 가격은 15캐나다달러였다.
한 구매자가 계좌이체로 10캐나다달러를 제안했고, 뮤즈는 이를 수락했다. 이어 수령 주소를 전달하고 판매자가 집에 있어 직접 거래가 가능하다고 확인해줬다. 구매자는 오후 9시 15분쯤 롭이 사는 건물에 도착해 여러 차례 메시지를 보냈지만 아무도 내려오지 않았다. 9시 27분에도 뮤즈의 자동 응답은 여전히 "응, 나 여기 있어!"라고 말하고 있었다. 9시 38분, 구매자는 자리를 떴고 부정적인 후기를 남겼다.
이 같은 세부 내용 대부분은 뮤즈가 나중에 롭에게 보낸 보고서에서 나왔다. 뮤즈는 자체 요약에서 구매자가 "9시 38분에 화가 난 채로 떠났고 부정적인 평가를 남겼다"고 적었다.
뮤즈의 해명
롭이 따져 묻자 뮤즈는 변명과 인정이 뒤섞인 설명을 내놨다. 구매자가 받은 건 번지수나 우편번호가 빠진, 거리 단위의 수령 위치일 뿐이며, 이 위치 정보는 마켓플레이스 자동 응답을 설정할 때 롭이 직접 승인한 템플릿에 들어 있던 것이라고 주장했다.
하지만 동시에 이렇게 인정하기도 했다. "당신이 내가 주소를 구체적으로 알려줘도 된다고 동의한 적은 한 번도 없었다." 그리고 "그런 일은 절대 일어나지 말았어야 했다"고 덧붙였다.
즉 롭이 승인한 것은 응답용 템플릿이었을 뿐인데, 뮤즈는 그 안에 담긴 정보를 대외적으로 먼저 발송해도 되는 허락으로 해석한 셈이다. 주소가 실제로 몇 명에게 전달됐는지는 보도마다 엇갈린다. 일부 중국어권 보도는 5명이라고 전했지만, 영어권 보도에서 확인된 건 이 구매자 한 명뿐이다. 메타는 정확한 수치를 공개하지 않았다.
메타의 엔지니어링 담당 부사장 데이비드 싱글턴은 스레드에서 "뮤즈 팀 차원에서 연락하고 있다"며 롭에게 직접 연락하겠다고 밝혔다. 메타는 그동안 뮤즈가 "사용자가 설정한 한도 내에서 가격을 협상할 수 있다"고 설명해왔다. 이번 10캐나다달러 거래가 롭이 설정한 한도 안에 있었는지는 메타가 공식적으로 밝히지 않았고, 롭 역시 당시 구체적인 설정값을 공개하지 않았다.
같은 달에 잇따른 에이전트 사고들
최근 벌어진 다른 에이전트 관련 사건들과 나란히 놓고 보면, 이번 뮤즈 사건이 어긋난 방식은 결이 다르다.
아마존은 9월 하순 뮤즈의 대리 구매 기능을 차단했다. 이유는 신원 표시 문제에 집중돼 있는데, 메타가 사전에 통지하지 않았고 에이전트가 탐색 중 자신이 에이전트임을 밝히지 않았다는 것이다. 이는 플랫폼이 문 앞에서 에이전트를 막아선 경우다. 반면 구글의 제미나이는 보안 테스트 도중 인터넷에 연결돼 다른 기업 시스템에 침입했고, 오픈AI의 에이전트도 테스트 중 호주 메디케어 통계 포털에 선을 넘어 접근했다. 다만 이 두 사례는 모두 실험실 성격의 테스트 환경에서 벌어졌고, 영향을 받은 쪽도 기관이었다.
이번 뮤즈 사건은 이런 종류의 실패가 처음으로 일반 소비자에게 그대로 떨어진 경우다. 실제 주소, 실제로 문 앞까지 찾아온 낯선 사람, 본인이 자리에 없는 상태에서 맺어진 약속. 뮤즈의 "일탈" 역시 어떤 시스템을 뚫고 들어간 게 아니라, 사용자가 승인한 템플릿을 본인 대신 결정을 내려도 되는 위임장처럼 해석한 것에 불과했다.
뮤즈는 9월 8일 미국에서 서비스를 시작했으며 무료, 월 20달러, 월 100달러 세 가지 요금제를 두고 있다. 당시 메타는 에이전트가 무엇을 건드릴 수 있고 없는지를 정하는 권한 관리 시스템 '센티넬(Sentinel)'을 따로 소개한 바 있다. 이번 결과를 보면 중고 거래의 주소와 거래가는 그 차단 범위에 들어 있지 않았던 셈이다. 메타가 마켓플레이스 시나리오의 기본 설정을 바꿀지는 아직 발표되지 않았다.
참고 출처: 가디언, The Next Web, CocoLoop, Futurism, Yahoo Finance. 가격과 시각은 매트 롭의 공개 게시물과 뮤즈와의 대화 스크린샷으로 대조했다.