OpenAIは5月7日、音声向けの新モデルを3つ発表し、Realtime APIの製品ラインを大きく作り直した。狙いは、聞く、考える、話す、ツールを呼び出すという処理を、ライブ会話の中で一体化することだ。
新たに加わったのは、話しながら推論する対話モデルGPT-Realtime-2、70の入力言語から13の出力言語に対応するリアルタイム通訳モデルGPT-Realtime-Translate、ストリーミング音声認識のGPT-Realtime-Whisper。3モデルはいずれも正式版のRealtime APIに入り、リモートMCPサーバー呼び出し、画像入力、SIP電話の着信にも対応する。
Realtime-2の焦点は「考える間の沈黙」をなくすこと
今回もっとも重要なのは、Realtime-2がリクエストを推論しながら会話を続けられる点だ。従来の音声エージェントは、ユーザーが話し終えると一度止まり、考えてから返すことが多かった。電話では数秒の沈黙だけで、相手は故障した窓口のように感じてしまう。
Realtime-2は、会話を止めずに返答し、ユーザーの割り込み後も文脈を維持し、複数のツールを並行して呼び出せる。コンテキストウィンドウは従来の32Kから128Kに広がり、開発者は応答速度と深い推論の間で推論強度を調整できる。OpenAIは、修正や割り込みを処理しつつ会話を進められるモデルだと説明している。
要するに、AIに電話を任せても、反応の遅いコールセンター担当者のようには聞こえにくくなる、という売り込みだ。
ZillowとDeutsche Telekomが初期事例に
OpenAIは今回、ZillowとDeutsche Telekomの2社を具体例として挙げた。米国の大手不動産プラットフォームであるZillowは、Realtime-2を実際の電話トラフィックで運用してきた。OpenAIは「通話成功率の大幅な向上」と「より高いコンプライアンス上の安定性」を示したが、具体的な割合は公表していない。
この点が重要なのは、音声エージェントの課題が単に聞き取れるかどうかではなかったからだ。「午後3時に内見できるか。娘の迎えがあるので4時前には終えたい」といった複数条件の相談で、従来モデルは次の一手を受け切れないことが多かった。Zillowのテストは、Realtime-2がその種の詰まりを減らしている可能性を示す。
Deutsche TelekomはRealtime-Translateを多国籍カスタマーサービスで試している。ドイツ語を話す顧客と英語を話す担当者の間に、人間の通訳を挟まない運用を想定している。
継続音声向けに料金も整理
GPT-Realtime-2は音声入力100万トークンあたり32ドル、キャッシュ済み入力は0.40ドル、出力100万トークンあたり64ドル。GPT-Realtime-Translateは1分あたり0.034ドル、GPT-Realtime-Whisperは1分あたり0.017ドルだ。
TranslateとWhisperが分単位課金になったことで、カスタマーサポートや会議記録のような連続音声の用途では見積もりがしやすくなった。1,000分ならWhisperは17ドル、Translateは34ドルとなる。Realtime-2は引き続きトークン課金だが、巨大なシステムプロンプトを毎回使い回すサポートエージェントのような用途では、キャッシュ入力の割引が効く。
音声エージェントの構成が一段縮む
昨年初めの音声AIは、ElevenLabsが音声合成、DeepgramやWhisperが音声認識、初期のGPT-4o音声モードが対話体験というように、役割が分かれていた。OpenAIは今回、「聞く、考える、話す」を同じ推論プロセスに押し込もうとしている。
競争軸も変わる。これからは電話の認識精度だけでなく、AIがライブ通話で人間のように次の発話を受けられるかが問われる。ElevenLabsにはボイスクローニングの強みがある一方、推論はOpenAIの得意領域だ。Anthropicが音声APIでいつ本格参入するかも、次に見るべき点になる。
参考資料：OpenAI has new voice models that reason,CocoLoop、 translate, and transcribe as you speak（9to5Mac）；OpenAI's New Voice API Models（StartupHub.ai）；Advancing voice intelligence with new models in the API（OpenAI公式ブログ）