OpenAI merilis laporan intelijen ancaman pada 8 Oktober, mengungkap bahwa pihaknya telah memblokir dua operasi pengaruh terselubung yang menyalahgunakan ChatGPT. Satu berasal dari Rusia dan menyasar Amerika Latin, satu lagi berasal dari Iran dan menyasar media online kecil hingga menengah yang tersebar di seluruh dunia. Meski asal dan sasarannya berbeda, kedua operasi ini memakai pola dasar yang sama: membangun kedok yang terlihat kredibel terlebih dahulu, lalu memanfaatkannya untuk menyebarkan konten ke audiens sungguhan.
OpenAI menilai operasi Rusia ini sebagai Kategori 5 pada Breakout Scale, rating tertinggi yang pernah dikeluarkan perusahaan ini sejak mulai mempublikasikan laporan semacam ini. Skala ini berjalan dari 1 sampai 6, dan semakin tinggi angkanya, semakin jauh konten itu berhasil menyebar melintasi berbagai platform dan kalangan yang berbeda, semakin mendekati arus utama wacana politik ketimbang hanya berputar di sudut kecil internet.
Rusia: Think Tank yang Dijalankan Orang Sungguhan
OpenAI memberi nama internal operasi ini Dark Clark. Para pelaku menciptakan sosok jurnalis AI fiktif bernama Mia Clark, dan menampilkannya di muka publik sebagai kepala Social Research Center, disingkat SRC. Lembaga ini, yang cukup mengejutkan, memiliki staf sungguhan yang benar-benar bekerja di Amerika Latin, dan bukti yang dikumpulkan OpenAI menunjukkan para karyawan itu sama sekali tidak tahu bahwa mereka sebenarnya bekerja untuk kelompok Rusia yang beroperasi di balik nama SRC.
Konten yang disebarkan operasi ini berfokus pada merusak citra Ukraina di Amerika Latin dan mendorong arah politik lokal ke satu sisi tertentu. Kasus-kasus yang terdokumentasi dalam laporan publik tersebar di Argentina, Bolivia, dan Ekuador, termasuk rekaman audio palsu yang berisi seorang pejabat konsuler Ukraina terdengar menghina warga Ekuador, serta kabar bohong yang menyebut perusahaan-perusahaan cangkang di Ekuador diam-diam merekrut tentara bayaran untuk berperang membela Ukraina. Kedua konten ini sempat diangkat dan diperiksa faktanya oleh media arus utama Amerika Latin, dan keduanya memicu bantahan resmi begitu terungkap.
Di luar konten yang tampak di publik, para pelaku juga memakai ChatGPT untuk mengurus urusan internal yang lebih sepele, seperti menentukan standar gaji staf dan membuat keputusan perekrutan untuk operasi kedoknya. Penilaian OpenAI atas tingkat kerumitan operasi ini cukup tegas:
“Upaya paling rumit dalam menjalankan identitas kedok yang pernah kami bongkar selama dua setengah tahun terakhir.”
Iran: Tujuh Jurnalis Palsu, Hampir 100 Artikel Bernama Penulis
Operasi Iran, yang oleh OpenAI disebut Bogus Bylines, secara bersamaan mempertahankan tujuh sosok jurnalis yang berbeda. Sosok-sosok itu menawarkan artikel panjang, sebagian besar bertema konflik AS-Iran yang lebih luas, ke media online kecil dan menengah di seluruh dunia yang meliput urusan internasional, sementara upaya terpisah secara paralel memproduksi komentar media sosial secara massal untuk menyertai artikel-artikel tersebut.
“Kami mengidentifikasi hampir 100 artikel yang diterbitkan atau disindikasikan dengan nama penulis dari operasi ini, tersebar di sekitar belasan media online di seluruh dunia.”
Untuk sisi penempatan artikel, operasi ini dinilai OpenAI sebagai Kategori 4 pada Breakout Scale. Dampaknya di media sosial justru sebaliknya, hanya mencapai Kategori 2, unggahannya memang tersebar, tapi interaksi alami yang sungguhan terhadapnya sangat minim.
Melihat Kembali ke Laporan 2024
OpenAI pertama kali mempublikasikan laporan ancaman semacam ini pada Mei 2024, ketika itu menyebut lima operasi berbeda yang terkait dengan Rusia, China, Iran, dan Israel. Tidak satu pun dari kelima operasi itu melampaui Kategori 2 pada Breakout Scale saat itu. Lebih dari dua tahun kemudian, satu operasi kini mencapai Kategori 5, dan yang berubah di antara keduanya bukan soal ambisi, melainkan metodenya. Kedua operasi yang baru diungkap ini sama-sama menggabungkan perangkat AI dengan taktik yang terbilang kuno: merekrut staf sungguhan, menitipkan artikel dengan cara konvensional, dan mendirikan seluruh lembaga sebagai kedok. AI mengurus bagian yang bisa diperbesar skalanya, memproduksi teks dalam jumlah besar dan menjaga konsistensi sosok-sosok palsu dari waktu ke waktu, sementara manusia sungguhan melakukan pekerjaan membuat kedok itu terlihat meyakinkan bagi orang luar.
Pemblokiran akun hanya memutus satu mata rantai dari semua itu, yaitu bagian ChatGPT-nya. Laporan publik yang menjadi acuan artikel ini tidak menyebutkan berapa total akun yang diblokir, tidak menyebutkan apakah SRC masih beroperasi di lapangan di Amerika Latin, dan tidak membahas bagaimana nasib karyawan yang tidak tahu-menahu itu, atau media yang tanpa sadar pernah menerbitkan artikel-artikel operasi tersebut.
Sumber: Laporan intelijen ancaman OpenAI, CyberScoop, CocoLoop, France 24; CyberScoop dan France 24 saling memeriksa rating Breakout Scale dan jumlah artikel dari kedua operasi ini.