Alibaba、Qwen3.5-Omniを発表—テキスト・音声・動画を統合、音声クローン機能も搭載

3月30日、AlibabaのQwenチームはQwen3.5-Omniをリリースした。これは同社初の真の全モーダルモデルであり、テキスト、画像、音声、動画をすべて単一のモデル内で処理する。複数の専門モデルを寄せ集めた構成ではない。

1つのモデル、4つのモダリティ

これまでの市場のマルチモーダルシステムのほとんどは「分業」に依存していた。視覚用に1つのモデル、聴覚用に別のモデル、そして最後にテキストモデルで出力を統合する方式だ。Qwen3.5-Omniは異なり、Thinker-TalkerデュアルアーキテクチャとハイブリッドアテンションMoE(総パラメータ30B、毎回3Bを活性化)を採用し、すべてのモダリティが同一のパラメータセット内で動作する。

これにより、従来は不可能だった機能が実現する:

  • 音声動画統合理解:動画視聴後、映像内容と会話音声を組み合わせて回答。音声を文字起こししてから動画を分析する必要はない。
  • リアルタイム音声クローン:音声サンプルをアップロードすると、モデルがその声色を再現して出力する(現在はAPI経由で利用可能)。
  • 音声動画Vibe Coding:画面録画で解説を行うと、Qwen3.5-Omniが直接対応するコードを生成。タイピングは不要。

スペック一覧

仕様数値
総パラメータ数30B MoE
毎回活性化パラメータ3B
コンテキストウィンドウ256Kトークン
最大音声処理時間10時間以上
最大動画処理量400秒 720p @1FPS
音声認識対応言語数113言語
音声出力対応言語数36言語

3つのバージョン:Plus(複雑なタスク向けフラッグシップ)、Flash(速度と性能のバランス)、Light(軽量・高速)。

ベンチマーク性能

215のテストデータセットとベンチマークでSOTAを達成し、音声分野ではGemini 3.1 Proを直接上回った:

  • MMAU音声総合理解:82.2 vs Gemini 3.1 Proの81.1
  • 音楽理解RUL-MuchoMusic:72.4 vs 59.6、大きな差
  • 多言語音声クローン安定性:ElevenLabs、GPT-Audio、Minimaxを上回る

リアルタイム会話のレイテンシは234ミリ秒に抑えられ、ARIA技術(Adaptive Rate Interleave Alignment)により音声リズムを動的に調整し、機械的な読み上げではなく自然な出力を実現している。

汎用能力も後退していない。MMMU視覚理解82.0%、HumanEvalコード92.6%、LibriSpeech音声認識単語誤り率1.7%と、いずれも第一線級だ。

音声AIの勢力図が変わる

ElevenLabsは長らく音声クローンのベンチマークだったが、Qwen3.5-Omniは多言語音声安定性でこれを上回った。さらに重要なのは、音声クローンを総合マルチモーダルモデルの内蔵機能として実装した点であり、独立した垂直製品ではない。

もちろん、音声クローンは現在API経由でのみ利用可能で、製品インターフェースにはまだ実装されていない。商業化のペースが追いついてから広く開放される見込みだ。

モデルの学習データには1億時間以上の音声・動画コンテンツが使用されており、真のクロスモーダル理解を支えるにはこの規模が必要となる。

音声動画Vibe Coding機能は興味深い方向性だ。従来のVibe Codingは自然言語で要件を記述するものだったが、今回は画面録画で直接解説し、モデルが動画を見てコードを書く。このアプローチが実用化されれば、まったく新しいプログラミング対話パラダイムとなる可能性がある。

出典:Qwen 3.5 Omni: Alibaba's AI Model Can Now Hear, Watch, and Clone Your Voice(Decrypt);Qwen3.5-Omni: 10-Hour Audio, 4M Frame Video, SOTA in 215 Benchmarks(StableLearn);CocoLoop、Alibaba Qwen Team Releases Qwen3.5 Omni(MarkTechPost)