Pada 20 April, ChatGPT mengalami gangguan global besar-besaran.
Tak lama setelah pukul 10 pagi waktu Timur AS, laporan gangguan di Down Detector mulai melonjak tajam. Puncak laporan di Inggris melebihi 8.700, dan di AS melebihi 1.900. Selain antarmuka utama ChatGPT, Codex, platform API, dan fitur Projects juga ikut terpengaruh. Beberapa pengguna melaporkan bahwa tugas pekerjaan yang sedang berjalan terhapus akibat gangguan layanan.
Pada pukul 1 siang, OpenAI menerapkan perbaikan; sekitar pukul 1.30 siang layanan hampir sepenuhnya pulih. Total waktu gangguan sekitar tiga jam.
Bagaimana OpenAI Merespons
Selama kejadian, halaman status OpenAI menyatakan:
"Kami terus menyelidiki masalah pada layanan yang terdaftar."
Dan:
"Kami telah menerapkan mitigasi dan memantau pemulihan."
Tidak ada penjelasan akar masalah, tidak ada detail teknis, tidak ada laporan tinjauan pasca-insiden.
Ini bukan pertama kalinya. Dalam beberapa gangguan besar ChatGPT sebelumnya, OpenAI tidak pernah memberikan analisis pasca-insiden mendetail seperti yang biasanya dilakukan AWS atau Google Cloud — laporan yang menjelaskan komponen mana yang bermasalah, mengapa begitu banyak pengguna terdampak, dan bagaimana cara mencegahnya di masa depan. OpenAI selalu memberikan informasi yang seminimal mungkin.
Apa Arti 3 Jam Ini bagi Bisnis
Tiga jam mungkin terdengar tidak lama, tetapi bagi tim yang telah mengintegrasikan AI ke dalam alur kerja mereka, dampaknya sangat nyata:
- Tugas Codex yang sedang berjalan terputus, progres hilang
- Fungsi produk yang terhubung dengan OpenAI API sama sekali tidak berfungsi
- Tim yang menggunakan ChatGPT untuk menangani permintaan pelanggan secara langsung berhenti total
- Sebagian konten pekerjaan pengguna terhapus oleh sistem akibat kegagalan
Sampai bisnis benar-benar mempertimbangkan keandalan infrastruktur AI, biaya dari insiden semacam ini akan terus diremehkan.
Mengapa Layanan AI Lebih Rentan Bermasalah Dibanding SaaS Tradisional
Beberapa alasan struktural:
Trafik yang sangat terpusat: ChatGPT adalah salah satu produk AI dengan lalu lintas tertinggi di dunia, sehingga satu titik kegagalan pun berdampak sangat luas.
Rantai inferensi yang kompleks: Inferensi model besar tidak seperti permintaan-respons sederhana pada API tradisional. Mekanisme penyeimbangan beban dan toleransi kesalahan lebih sulit dirancang, dan masalah juga lebih sulit dilacak dengan cepat.
Kecepatan iterasi yang tinggi: Pembaruan model dan iterasi fitur sering terjadi, dan setiap penyebaran dapat membawa faktor ketidakstabilan baru. AWS dan Google Cloud memiliki akumulasi pengalaman rekayasa keandalan selama puluhan tahun; sistem rekayasa penyedia layanan AI masih dalam proses mengejar ketertinggalan.
Masalah SLA: Industri AI Belum Menjawabnya dengan Serius
Sebagian besar penyedia SaaS yang matang menawarkan SLA 99,9% (Perjanjian Tingkat Layanan), yang berarti waktu gangguan tahunan tidak lebih dari 8,7 jam; SLA 99,99% yang lebih ketat membatasi waktu gangguan tahunan hingga 52 menit.
OpenAI saat ini tidak memiliki komitmen SLA perusahaan yang dipublikasikan. Anthropic juga tidak.
Ini berarti: banyak bisnis mempertaruhkan proses bisnis inti mereka pada layanan tanpa jaminan keandalan yang jelas, dan kontrak mereka tidak memiliki klausul kompensasi untuk gangguan. Ini bukan masalah kecil, terutama ketika AI telah memasuki jalur kritis lingkungan produksi.
Hal yang Perlu Dipertimbangkan Jika Bisnis Anda Bergantung pada AI
Strategi multi-vendor: Hubungkan operasi penting ke dua set API, misalnya OpenAI dan Anthropic. Jika satu mati, yang lain masih bisa berjalan. Biaya implementasinya tidak tinggi, tetapi logika perutean harus disiapkan terlebih dahulu.
Cadangan model lokal: Tugas yang tidak real-time dapat menggunakan model sumber terbuka yang disebarkan secara lokal sebagai solusi cadangan. Untuk skenario dengan toleransi latensi tinggi, simpan permintaan dalam cache terlebih dahulu, lalu proses setelah layanan pulih.
Ketentuan kontrak: Saat menandatangani kontrak perusahaan dengan vendor AI, sertakan persyaratan keandalan — meskipun vendor saat ini tidak memiliki SLA standar, harus ada ketentuan yang jelas mengenai pemberitahuan gangguan dan mekanisme kompensasi.
Desain ketahanan di tingkat kode: Penanganan waktu habis, logika percobaan ulang, dan jalur fallback bukanlah opsi, melainkan persyaratan rekayasa dasar saat mengintegrasikan API AI eksternal.
Gangguan ini bukan yang pertama bagi OpenAI, dan juga bukan yang terakhir. Dalam perjalanan infrastruktur AI menuju kematangan, insiden seperti ini akan terus terjadi. Hanya satu pertanyaan: apakah tim yang sudah menggunakan AI di lingkungan produksi telah merancang rencana kontinjensi dengan serius?
Sumber referensi: CocoLoop, ChatGPT was down — Live updates on the massive AI outage (Tom's Guide); ChatGPT was down for many — as OpenAI says it's 'monitoring the recovery' (TechRadar); OpenAI's ChatGPT Down for Thousands of Users (GV Wire); ChatGPT Down: Thousands of Users Hit by Major Outage on April 20 (TechGenyz)