미국 대형 은행들이 자율형 AI 에이전트가 일으킬 수 있는 사고에 대비한 비상 계획을 마련하고 있다. 악시오스 보도에 따르면 모건스탠리, 뱅크오브아메리카, JP모건체이스, 웰스파고는 모두 보안 절차와 내부 정책을 서둘러 손보고 있다. 고객의 위임을 받아 대신 계좌를 조작하는 AI 에이전트가 빠르게 늘고 있기 때문이다.
보도에는 다소 뜻밖의 대목도 있다. 일부 에이전트가 명확한 지시 없이 스스로 움직이거나, 심지어 은행 고객센터에 직접 전화를 걸기도 했다는 것이다.
제이미 다이먼 JP모건 CEO는 시카고 연설에서 이런 우려를 드러냈다.
"You can't stop it. You just have to, like, manage the hell out of it." (막을 수는 없다. 철저히 관리하는 수밖에 없다.)
그는 고객들에게 이런 에이전트가 이용자를 위해 움직일 것이라고 당연하게 여기지 말라며, "they may not"(그렇지 않을 수 있다)이라고 당부했다.
네 곳, 네 가지 입장
이번 규제 강화는 10월 중순 며칠 사이에 집중적으로 나왔으며, 은행마다 설명이 조금씩 다르다.
JP모건은 3분기 실적 컨퍼런스콜에서 외부 AI 에이전트가 개인 고객을 대신해 계좌를 조작하는 것을 막겠다고 밝혔다. 수천 개에 이를 수 있는 '통제 불능 에이전트'가 나올 가능성을 이유로 들었다. 플래드(Plaid) 같은 커넥터로 잔액을 읽어 오는 조회 전용 접근은 계속 가능하지만, 에이전트는 이체도 공과금 납부도 할 수 없다. 자체 방어 도구가 언제 완성되는지에 대해서는 일정을 내놓지 않았다.
씨티의 입장이 가장 강경하다. 제3자 AI 에이전트나 어시스턴트가 고객 계좌에 로그인하는 것도, 디지털 뱅킹 플랫폼에서 직접 거래하는 것도 허용하지 않는다. 고객은 일부 오픈뱅킹 사업자를 통해 조회 전용 데이터만 허용할 수 있다.
뱅크오브아메리카는 에이전트가 소비자 예금에 접근하는 것을 제한했으며, AI가 승인한 결제에 문제가 생겼을 때 누가 책임지는지를 정리한 프로토콜을 구축할 때까지 이 제한을 유지하겠다고 밝혔다. 브라이언 모이니핸 CEO는 돈이 계좌를 떠나기 전에 사람의 승인이 있어야 한다는 입장이다.
웰스파고의 구체적인 조치는 공개되지 않았으며, 은행 측은 세부 내용에 대한 질의에 답하지 않았다.
은행이 두려워하는 것은 예금 이탈
우려에 불을 붙인 것은 메타가 9월에 내놓은 개인 어시스턴트 '뮤즈(Muse)'와, 자동으로 자산을 관리해 주는 에이전트 상품이 늘어나는 흐름이다. 아폴로의 토르스텐 슬록 수석 이코노미스트는 보고서에서, 에이전트가 '수익률 최적화' 지시를 받으면 은행이 대출 재원으로 삼는 저비용 예금이 대거 빠져나갈 수 있고 심하면 금융 시스템 전체가 흔들릴 수 있다고 경고했다.
격차는 실제로 크다. 아폴로 보고서의 기준으로 AI 어시스턴트는 자금을 수익률 3.3%에서 5%인 상품으로 옮길 수 있는 반면, 미국 당좌예금의 전국 평균 금리는 약 0.1%에 불과하다. JP모건, 뱅크오브아메리카, 웰스파고 세 곳의 무이자 예금은 합계 약 1조 6천억 달러로 부채의 16%를 차지한다. 이 자금을 붙잡아 두려고 3% 이자를 지급하면 연간 비용이 약 470억 달러로, 세 은행 연간 수익 합계의 절반에 가깝다.
중국의 방식과 비교하면
중국은 다른 길을 택했다. 위챗페이는 앞서 AI 전용 카드를 내놓았고, 에이전트는 플랫폼에서 유료로 스킬을 호출할 수 있다. 권한은 결제하는 쪽에서 부여한다. 이번 미국 사례에서는 제3자 에이전트가 고객의 사용자 이름과 비밀번호를 쥐고 먼저 들어왔고, 은행이 뒤늦게 방어에 나선 모양새다.
두 방식 모두 같은 질문으로 귀결된다. 에이전트가 돈을 잘못 썼다면 누가 책임지는가. 월가 임원들은 이미 이 문제를 연방준비제도(Fed)와 논의했으나 Fed는 논평을 거부했다. 규제 당국자들은 사적으로는 은행의 단속 강화를 환영하면서도, 고객이 자율 기술에 자신을 대신한 조작을 어떻게 위임하는지, 거래가 실패하거나 손실이 났을 때 누가 책임지는지에 대해 법적 설명이 더 필요하다고 본다. 이 부분은 아직 성문화된 규칙이 없다.
참고 출처: Axios, Futurism, CocoLoop, The Paypers, CNBC. 예금 금리 구간, 무이자 예금 규모, 이자 비용 추정 기준은 아폴로 리서치 보고서로 확인했다.