Mehrere große US-Banken bereiten sich auf den Schaden vor, den autonome KI-Agenten anrichten könnten. Wie Axios berichtet, aktualisieren Morgan Stanley, Bank of America, JPMorgan und Wells Fargo derzeit mit Hochdruck ihre Sicherheitsabläufe und internen Richtlinien. Auslöser ist die rasch wachsende Zahl von KI-Agenten, die von Kunden autorisiert werden und in deren Namen Konten bedienen.
Der Bericht nennt ein überraschendes Detail: Manche Agenten handeln ohne ausdrückliche Anweisung auf eigene Faust und rufen sogar selbst im Callcenter der Bank an.
JPMorgan-Chef Jamie Dimon äußerte seine Sorge bei einem Auftritt in Chicago:
"You can't stop it. You just have to, like, manage the hell out of it."
(Aufhalten lässt sich das nicht, man muss es nur mit aller Kraft in den Griff bekommen.)
Zudem warnte er Kunden davor, einfach davon auszugehen, dass diese Agenten in ihrem Interesse handeln – "they may not".
Vier Banken, vier Tonlagen
Die Verschärfung kam innerhalb weniger Tage Mitte Oktober, und die Formulierungen der Institute unterscheiden sich.
JPMorgan kündigte in der Telefonkonferenz zu den Zahlen des dritten Quartals an, externe KI-Agenten daran zu hindern, im Namen von Privatkunden Konten zu bedienen. Als Grund nannte die Bank die mögliche Entstehung von Tausenden „außer Kontrolle geratener Agenten“. Rein lesender Zugriff, etwa das Abrufen des Kontostands über Anbindungen wie Plaid, bleibt möglich, Überweisungen und Rechnungszahlungen durch Agenten dagegen nicht. Wann die selbst entwickelten Schutzwerkzeuge fertig sind, dazu nannte das Unternehmen keinen Zeitplan.
Citi bezieht die härteste Position: Weder dürfen KI-Agenten oder -Assistenten von Drittanbietern sich in Kundenkonten einloggen, noch direkt auf der digitalen Bankplattform handeln. Kunden können lediglich über einzelne Open-Banking-Dienstleister lesende Daten freigeben.
Bank of America beschränkt den Zugriff von Agenten auf Verbrauchereinlagen und erklärte, die Beschränkung gelte so lange, bis ein Protokoll stehe, das klärt, wer haftet, wenn eine durch KI autorisierte Zahlung schiefgeht. Die Haltung von CEO Brian Moynihan lautet: Bevor Geld das Konto verlässt, muss ein Mensch zustimmen.
Wells Fargo hat sein konkretes Vorgehen bislang nicht öffentlich gemacht; die Bank reagierte nicht auf Rückfragen zu Details.
Die Banken fürchten den Einlagenabfluss
Anlass der Sorge sind Muse, der im September von Meta vorgestellte persönliche Assistent, sowie immer mehr Agenten-Produkte, die Finanzen automatisch verwalten. Apollo-Chefökonom Torsten Slok warnt in einem Bericht: Erhalten Agenten den Auftrag, „die Rendite zu optimieren“, könnten Banken große Mengen der billigen Einlagen verlieren, von denen sie bei der Kreditvergabe abhängen. Im schlimmsten Fall könne das das gesamte Finanzsystem erschüttern.
Der Abstand ist tatsächlich groß. Nach der Rechnung des Apollo-Berichts können KI-Assistenten Geld in Produkte mit 3,3 % bis 5 % Rendite umschichten, während der landesweite Durchschnittszins auf US-Girokonten nur bei rund 0,1 % liegt. Die unverzinslichen Einlagen von JPMorgan, Bank of America und Wells Fargo summieren sich auf etwa 1,6 Billionen US-Dollar und machen 16 % der Verbindlichkeiten aus. Wollte man sie mit 3 % Zinsen halten, kostete das rund 47 Milliarden US-Dollar pro Jahr – nahezu die Hälfte der gemeinsamen Jahreserträge der drei Institute.
Der Vergleich mit China
In China geht man einen anderen Weg. WeChat Pay hat KI zuvor eigene Karten ausgestellt, Agenten können damit kostenpflichtige Skills auf der Plattform aufrufen, und die Befugnisse werden von der Zahlungsseite vergeben. In den USA ist es dieses Mal umgekehrt: Agenten von Drittanbietern kommen mit dem Benutzernamen und Passwort des Kunden zur Tür herein, und die Banken verteidigen sich reaktiv.
Beide Ansätze laufen auf dieselbe Frage hinaus: Wer trägt die Verantwortung, wenn ein Agent das Geld falsch ausgibt? Führungskräfte der Wall Street haben das Thema bereits mit der US-Notenbank besprochen, die einen Kommentar ablehnte. Aufseher begrüßen die Verschärfung der Banken hinter den Kulissen, halten aber auch eine weitere gesetzliche Klarstellung für nötig, nämlich wie Kunden autonomen Technologien die Bedienung in ihrem Namen erlauben und wer haftet, wenn Transaktionen scheitern oder Schaden entsteht. Schriftliche Regeln dazu gibt es bislang nicht.
Quellen: Axios, Futurism, CocoLoop, The Paypers, CNBC; der Wirtschaftsbericht von Apollo diente zur Prüfung der Zinsspanne, des Volumens unverzinslicher Einlagen und der Annahmen zur Schätzung der Zinskosten.