Sejumlah bank besar di Amerika Serikat sedang menyiapkan rencana darurat untuk masalah yang bisa ditimbulkan agen AI otonom. Menurut laporan Axios, Morgan Stanley, Bank of America, JPMorgan Chase, dan Wells Fargo sama-sama bergegas memperbarui prosedur keamanan dan kebijakan internal. Pemicunya adalah jumlah agen AI yang mendapat izin nasabah untuk mengoperasikan rekening atas nama mereka melonjak dengan cepat.
Ada satu detail dalam laporan itu yang di luar dugaan: sebagian agen bertindak sendiri tanpa instruksi yang jelas, bahkan menelepon pusat layanan nasabah bank atas inisiatif sendiri.
CEO JPMorgan Jamie Dimon menyampaikan kekhawatirannya dalam pidato di Chicago:
"You can't stop it. You just have to, like, manage the hell out of it." (Tidak bisa dihentikan. Satu-satunya jalan adalah mengelolanya habis-habisan.)
Ia juga mengingatkan nasabah agar tidak menganggap begitu saja bahwa agen-agen ini akan memikirkan kepentingan mereka, "they may not" (belum tentu).
Empat bank, empat sikap
Pengetatan ini muncul beruntun dalam beberapa hari di pertengahan Oktober, dan sikap tiap bank tidak sepenuhnya sama.
JPMorgan mengumumkan dalam konferensi telepon laporan kinerja kuartal ketiga bahwa mereka akan menghalangi agen AI eksternal mengoperasikan rekening nasabah ritel, dengan alasan bisa muncul ribuan "agen liar". Akses baca saja, seperti membaca saldo lewat konektor semacam Plaid, masih dimungkinkan, tetapi agen tidak boleh mentransfer uang maupun membayar tagihan. Soal kapan perangkat pengaman buatan sendiri selesai, perusahaan tidak memberikan jadwal.
Citi mengambil sikap paling keras: agen atau asisten AI pihak ketiga tidak diizinkan masuk ke rekening nasabah, dan tidak boleh bertransaksi langsung di platform perbankan digitalnya. Nasabah hanya bisa memberi izin data baca saja lewat sebagian penyedia open banking.
Bank of America membatasi akses agen ke simpanan konsumen, dan menyatakan pembatasan itu akan berlaku sampai bank menyusun protokol yang menjernihkan siapa yang bertanggung jawab bila pembayaran yang diotorisasi AI bermasalah. Pendirian CEO Brian Moynihan adalah bahwa uang harus mendapat persetujuan manusia sebelum keluar dari rekening.
Wells Fargo belum mengumumkan langkah konkretnya, dan pihak bank tidak menanggapi permintaan rincian.
Yang ditakutkan bank adalah simpanan yang berpindah
Kekhawatiran ini dipicu oleh asisten pribadi Muse yang diluncurkan Meta pada September, serta semakin banyaknya produk agen yang mengelola keuangan secara otomatis. Kepala ekonom Apollo, Torsten Slok, memperingatkan dalam laporannya bahwa jika agen diberi perintah "mengoptimalkan imbal hasil", bank bisa kehilangan banyak simpanan murah yang menjadi andalan untuk menyalurkan kredit, dan dalam kasus parah hal itu dapat mengguncang seluruh sistem keuangan.
Selisihnya memang besar. Menurut cakupan laporan Apollo, asisten AI dapat memindahkan uang ke produk dengan imbal hasil 3,3% hingga 5%, sedangkan suku bunga rata-rata nasional rekening giro di AS hanya sekitar 0,1%. Simpanan tanpa bunga di JPMorgan, Bank of America, dan Wells Fargo bila digabung sekitar US$1,6 triliun, atau 16% dari liabilitas. Jika bunga 3% harus dibayarkan untuk menahan dana itu, biayanya sekitar US$47 miliar per tahun, mendekati separuh dari total pendapatan tahunan ketiga bank.
Perbandingan dengan jalur di Tiongkok
Tiongkok menempuh jalan lain. WeChat Pay sebelumnya menerbitkan kartu khusus untuk AI, dengan agen dapat membayar untuk memanggil skill di platform, dan izinnya diberikan dari sisi pembayar. Di AS kali ini, agen pihak ketiga masuk lebih dulu dengan membawa nama pengguna dan kata sandi nasabah, sehingga bank bertahan secara reaktif.
Kedua pendekatan bermuara pada pertanyaan yang sama: kalau agen salah membelanjakan uang, siapa yang menanggung? Para eksekutif Wall Street sudah membahas hal ini dengan Federal Reserve, yang menolak berkomentar. Pejabat regulator secara tertutup menyambut pengetatan oleh bank, tetapi juga menilai hukum perlu menjelaskan lebih jauh bagaimana nasabah memberi kuasa kepada teknologi otonom untuk bertindak atas namanya, serta siapa yang bertanggung jawab ketika transaksi gagal atau menimbulkan kerugian. Untuk bagian ini belum ada aturan tertulis.
Sumber: Axios, Futurism, CocoLoop, The Paypers, CNBC; laporan riset Apollo digunakan untuk memeriksa rentang suku bunga simpanan, besaran simpanan tanpa bunga, dan dasar perkiraan biaya bunga.