Vários grandes bancos dos Estados Unidos estão a preparar planos de contingência para os estragos que agentes de IA autónomos possam causar. Segundo a Axios, Morgan Stanley, Bank of America, JPMorgan e Wells Fargo estão a atualizar às pressas os seus procedimentos de segurança e políticas internas, por causa do crescimento rápido do número de agentes de IA autorizados por clientes a operar contas em seu nome.
A reportagem menciona um pormenor algo inesperado: alguns agentes agem por conta própria, sem instruções claras, e chegam a telefonar sozinhos para o centro de atendimento do banco.
O CEO do JPMorgan, Jamie Dimon, expressou a sua preocupação num discurso em Chicago:
"You can't stop it. You just have to, like, manage the hell out of it."
(Não dá para travar; só se pode gerir com todo o rigor.)
Avisou ainda os clientes para não presumirem que esses agentes vão pensar no interesse deles: "they may not".
Quatro bancos, quatro discursos
O aperto surgiu de forma concentrada ao longo de poucos dias em meados de outubro, e cada banco usou palavras diferentes.
O JPMorgan anunciou, na teleconferência de resultados do terceiro trimestre, que vai impedir agentes de IA externos de operar contas em nome de clientes de retalho, alegando que poderão surgir milhares de “agentes descontrolados”. O acesso só de leitura, como consultar saldos através de conectores como o Plaid, continua possível, mas os agentes não podem fazer transferências nem pagar contas. Quanto à data de conclusão das ferramentas de proteção desenvolvidas internamente, a empresa não deu calendário.
O Citi tem a posição mais dura: não permite que agentes ou assistentes de IA de terceiros iniciem sessão em contas de clientes, nem que negoceiem diretamente na sua plataforma bancária digital. Os clientes só podem autorizar dados de leitura através de alguns prestadores de serviços de open banking.
O Bank of America restringe o acesso dos agentes aos depósitos de consumidores e afirma que a restrição se mantém até o banco criar um protocolo que esclareça quem responde quando um pagamento autorizado por IA corre mal. A posição do CEO Brian Moynihan é que, antes de o dinheiro sair da conta, tem de haver aprovação humana.
O Wells Fargo ainda não divulgou as medidas concretas, e o banco não respondeu sobre os pormenores.
O medo dos bancos é a fuga de depósitos
A preocupação foi desencadeada pelo Muse, o assistente pessoal lançado pela Meta em setembro, e por um número crescente de produtos de agentes capazes de gerir finanças automaticamente. Torsten Slok, economista-chefe da Apollo, alertou num relatório que, se os agentes receberem a ordem de “otimizar o rendimento”, os bancos podem perder grande parte dos depósitos baratos de que dependem para conceder crédito, o que, em casos graves, poderia abalar todo o sistema financeiro.
A diferença é de facto grande. Pelas contas do relatório da Apollo, os assistentes de IA podem mover dinheiro para produtos com rendimento de 3,3% a 5%, enquanto a taxa média nacional das contas à ordem nos EUA é de apenas cerca de 0,1%. Os depósitos sem juros de JPMorgan, Bank of America e Wells Fargo somam cerca de 1,6 bilião de dólares (1,6 trillion, na escala americana), o equivalente a 16% do passivo; para os reter pagando 3% de juros, o custo anual rondaria 47 mil milhões de dólares, perto de metade da receita anual somada dos três bancos.
Comparação com a China
A China segue outro caminho. O WeChat Pay já tinha emitido cartões dedicados à IA, com os quais os agentes podem pagar para usar competências na plataforma, e as permissões são concedidas pelo lado do pagamento. Nos EUA, desta vez, são os agentes de terceiros que entram pela porta com o nome de utilizador e a palavra-passe do cliente, e os bancos defendem-se de forma reativa.
As duas abordagens esbarram na mesma pergunta: se o agente gastar mal o dinheiro, a conta é de quem? Executivos de Wall Street já falaram sobre isto com a Reserva Federal, que recusou comentar. Reguladores dão boas-vindas, em privado, ao aperto dos bancos, mas consideram que a lei precisa de esclarecer melhor como os clientes autorizam tecnologias autónomas a operar em seu nome e quem responde quando as transações falham ou causam prejuízo. Por enquanto, não há regras escritas sobre isso.
Fontes: Axios, Futurism, CocoLoop, The Paypers, CNBC; o relatório de pesquisa económica da Apollo foi usado para conferir a faixa de taxas de juro, o volume de depósitos sem juros e os critérios da estimativa de custo de juros.