OpenAI hat am 7. Mai drei neue Sprachmodelle vorgestellt und damit die Produktlinie der Realtime API deutlich neu zugeschnitten. Der Kern ist eine Live-Konversation, in der ein System hören, schlussfolgern, sprechen und Werkzeuge aufrufen kann.
Die drei Modelle heißen GPT-Realtime-2, ein Dialogmodell, das beim Sprechen schlussfolgern soll; GPT-Realtime-Translate, eine Echtzeitdolmetschfunktion für 70 Eingabesprachen und 13 Ausgabesprachen; sowie GPT-Realtime-Whisper für Streaming-Speech-to-Text. Alle drei kommen in die allgemein verfügbare Realtime API, zusammen mit Unterstützung für entfernte MCP-Serveraufrufe, Bildeingaben und SIP-Telefonanrufe.
Realtime-2 soll die Denkpause im Telefonat verkürzen
Die wichtigste Neuerung ist, dass Realtime-2 eine Unterhaltung weiterführen kann, während es eine Anfrage durchdenkt. Frühere Voice-Agenten folgten oft einem unangenehmen Muster: Der Nutzer spricht, das System stoppt, denkt nach und antwortet dann. Am Telefon fühlen sich schon wenige Sekunden Pause wie eine defekte Hotline an.
Realtime-2 soll antworten, ohne die Unterhaltung abreißen zu lassen, Unterbrechungen ohne Kontextverlust verarbeiten und mehrere Werkzeuge parallel aufrufen. Das Kontextfenster wächst von 32K auf 128K, und Entwickler können die Stärke des Reasonings zwischen schneller Reaktion und gründlicherem Nachdenken einstellen. OpenAI beschreibt das Modell als System, das die Konversation in Bewegung hält, während es denkt, Tools nutzt und Korrekturen oder Unterbrechungen verarbeitet.
Praktisch heißt das: Ein KI-Agent am Telefon soll weniger wie ein träger Kundendienst klingen.
Zillow und Deutsche Telekom liefern frühe Beispiele
OpenAI nannte zum Start zwei Kunden: Zillow und Deutsche Telekom. Zillow, eine große US-Immobilienplattform, hat Realtime-2 bereits mit echtem Telefonverkehr eingesetzt. OpenAI spricht von deutlich höheren Erfolgsraten bei Anrufen und robusterer Compliance, nennt aber keine konkreten Prozentwerte.
Das ist relevant, weil der Engpass bei Voice-Agenten nicht nur das Verstehen einzelner Wörter war. Schwierig wurde es in der nächsten Gesprächsrunde, wenn mehrere Bedingungen gleichzeitig auftauchten: etwa eine Besichtigung um 15 Uhr, die wegen der Abholung eines Kindes vor 16 Uhr enden muss. Der Zillow-Test deutet darauf hin, dass Realtime-2 solche mehrstufigen Situationen besser auffängt.
Deutsche Telekom testet Realtime-Translate für internationalen Kundendienst. Ein deutschsprachiger Kunde und ein englischsprachiger Agent könnten dann ohne menschlichen Dolmetscher miteinander sprechen.
Die Preise passen besser zu kontinuierlichem Audio
GPT-Realtime-2 kostet 32 US-Dollar pro Million Audio-Eingabetokens, 0,40 US-Dollar für gecachte Eingaben und 64 US-Dollar pro Million Ausgabetokens. GPT-Realtime-Translate kostet 0,034 US-Dollar pro Minute, GPT-Realtime-Whisper 0,017 US-Dollar pro Minute.
Die Minutenpreise für Translate und Whisper machen die Kalkulation für Callcenter, Besprechungsnotizen und andere Dauer-Audiofälle einfacher: 1.000 Minuten kosten 17 US-Dollar mit Whisper oder 34 US-Dollar mit Translate. Realtime-2 bleibt tokenbasiert, doch der starke Rabatt für gecachte Eingaben ist für Anwendungen gedacht, die in jeder Unterhaltung denselben großen Systemprompt verwenden, etwa Support-Agenten.
Der Voice-Agent-Stack schrumpft
Anfang des vergangenen Jahres war Voice AI noch klar geschichtet. ElevenLabs stand vor allem für Text-to-Speech, Deepgram und Whisper für Speech-to-Text, und die erste GPT-4o-Sprachgeneration hatte noch Probleme mit Latenz und Unterbrechungen. OpenAI versucht nun, Hören, Denken und Sprechen in einen gemeinsamen Reasoning-Prozess zu bringen.
Damit verschiebt sich der Wettbewerb. Es geht nicht mehr nur darum, wer Telefongespräche genauer transkribiert, sondern wer eine KI im Live-Anruf wie einen Menschen anschlussfähig halten kann. ElevenLabs hat weiterhin Vorteile beim Voice Cloning, während Anthropic in diesem Jahr noch kein vergleichbares Voice-API-Modell veröffentlicht hat. Wenn Zillows frühe Daten tragen, werden Callcenter-SaaS und Outsourcing-Anbieter den Druck bald in ihren eigenen Zahlen erklären müssen.
Quellen: OpenAI has new voice models that reason,CocoLoop, translate, and transcribe as you speak (9to5Mac); OpenAI's New Voice API Models (StartupHub.ai); Advancing voice intelligence with new models in the API (offizieller OpenAI-Blog)