OpenAI pada 7 Mei memperkenalkan tiga model suara baru dan merombak lini Realtime API. Arahnya jelas: percakapan langsung yang bisa mendengar, bernalar, berbicara, dan memanggil alat dalam satu alur.
Tiga model itu adalah GPT-Realtime-2, model percakapan yang dirancang untuk bernalar sambil berbicara; GPT-Realtime-Translate, penerjemah langsung dari 70 bahasa input ke 13 bahasa output; serta GPT-Realtime-Whisper, model speech-to-text streaming. Ketiganya masuk ke Realtime API versi umum, bersama dukungan panggilan server MCP jarak jauh, input gambar, dan panggilan telepon SIP.
Realtime-2 ingin menghapus jeda saat agen berpikir
Perubahan utamanya ada pada kemampuan Realtime-2 menjaga percakapan tetap berjalan ketika model sedang menalar permintaan. Agen suara lama sering membuat pengguna menunggu: pengguna selesai bicara, sistem berhenti, berpikir, lalu menjawab. Dalam panggilan telepon, jeda beberapa detik saja sudah terasa seperti layanan pelanggan yang macet.
Realtime-2 dibuat untuk menanggapi sambil bernalar, tidak kehilangan konteks ketika pengguna menyela, dan memanggil beberapa alat secara paralel. Jendela konteksnya naik dari 32K menjadi 128K, sementara pengembang bisa mengatur intensitas penalaran antara respons cepat dan pertimbangan yang lebih mendalam. OpenAI menggambarkannya sebagai model yang tetap menggerakkan percakapan ketika menalar, memakai alat, dan menangani koreksi atau interupsi.
Dengan kata lain, OpenAI ingin agen telepon AI tidak lagi terdengar seperti operator yang lambat bereaksi.
Zillow dan Deutsche Telekom menjadi contoh awal
OpenAI menyorot dua pelanggan dalam peluncuran ini: Zillow dan Deutsche Telekom. Zillow, platform properti besar di AS, telah menjalankan Realtime-2 pada trafik telepon nyata. OpenAI mengatakan tingkat keberhasilan panggilan meningkat signifikan dan ketahanan kepatuhan lebih baik, tetapi tidak memberikan angka persentase.
Itu penting karena hambatan agen suara selama ini bukan hanya soal mampu mengenali ucapan. Masalahnya muncul pada giliran berikutnya, ketika pelanggan memberi beberapa batasan sekaligus, misalnya ingin melihat rumah pukul 3 sore tetapi harus selesai sebelum pukul 4 karena menjemput anak. Uji Zillow menunjukkan Realtime-2 mulai melewati titik macet semacam itu.
Deutsche Telekom sedang menguji Realtime-Translate untuk layanan pelanggan lintas negara, sehingga pelanggan berbahasa Jerman dan agen berbahasa Inggris dapat berbicara tanpa penerjemah manusia di tengahnya.
Harga dibuat lebih mudah untuk audio berkelanjutan
GPT-Realtime-2 dihargai $32 per satu juta token input audio, input cache $0,40, dan $64 per satu juta token output. GPT-Realtime-Translate dihargai $0,034 per menit, sedangkan GPT-Realtime-Whisper $0,017 per menit.
Model Translate dan Whisper yang memakai tarif per menit membuat perhitungan untuk pusat layanan pelanggan, notula rapat, dan beban audio panjang menjadi lebih sederhana. Seribu menit berarti $17 untuk Whisper atau $34 untuk Translate. Realtime-2 masih memakai token, tetapi diskon input cache sangat berguna untuk aplikasi yang menggunakan prompt sistem besar yang sama di setiap percakapan, seperti agen dukungan pelanggan.
Tumpukan teknologi agen suara makin pendek
Setahun lalu, pasar AI suara masih terpecah. ElevenLabs kuat di text-to-speech, Deepgram dan Whisper berfokus pada speech-to-text, sementara mode suara GPT-4o generasi awal masih bermasalah pada latensi dan penanganan interupsi. OpenAI kini mencoba memasukkan mendengar, berpikir, dan berbicara ke satu proses penalaran.
Persaingan pun bergeser. Ukurannya bukan lagi semata siapa yang paling akurat menyalin panggilan, melainkan siapa yang bisa membuat AI menyambung percakapan telepon seperti manusia. ElevenLabs punya keunggulan voice cloning, sedangkan Anthropic belum meluncurkan model di jalur API suara tahun ini. Jika data awal Zillow bertahan, perusahaan outsourcing layanan pelanggan dan SaaS call center akan segera merasakan tekanannya.
Sumber: OpenAI has new voice models that reason,CocoLoop, translate, and transcribe as you speak (9to5Mac); OpenAI's New Voice API Models (StartupHub.ai); Advancing voice intelligence with new models in the API (blog resmi OpenAI)