Qualcomm製チップを搭載したスマートグラス向けに、AIスタートアップのPrismMLが小型言語モデルを開発した。Qualcommは9月24日のSnapdragon Summitで、PrismMLの1bitモデル「Bonsai」をSnapdragon AR1 Gen 1プラットフォーム上でローカル実行するデモを披露し、装着者が目の前にあるものについてリアルタイムで質問できる様子を示した。
このモデルは20億パラメータで、視覚タスクと言語タスクの両方向けに調整されている。TechCrunchの報道によれば、PrismMLはより大型のモデルの4分の1のサイズでありながら、標準的なベンチマークで大部分の性能を維持していると主張している。比較対象がどのモデルで、どのベンチマークを使ったのかは報道では明らかにされていない。
PrismMLはこのモデルを搭載する市販のスマートグラスをまだ発表していない。どのメーカーが最初に採用するのか、いつ発売されるのかも不明のままだ。
iPhoneからメガネへ
PrismMLはカリフォルニア工科大学出身の研究者が創業し、UCバークレーのイオン・ストイカ氏がアドバイザーを務める。同社は一貫して、モデルを小型化して端末上で直接動かす方向を追求してきた。
7月には、アリババの通義千問「Qwen 3.6」の270億パラメータの高密度モデルを、約54GBから4GB未満に圧縮し、iPhone 17 Pro上でローカル実行できるようにしたと発表している。それ以前に投入したBonsaiシリーズは8B・4B・1.7Bの3サイズを展開し、1bit重みを軸に、フル精度モデル比でメモリ使用量14分の1、速度8倍、消費電力5分の1という数値を同社は示していた。1bit向けバックエンド「Q1_0」もすでにllama.cppに統合済みだ。
今回の2B版は、Bonsaiシリーズの既存ラインナップである1.7Bと4Bの中間に位置し、視覚機能が新たに加わった。iPhone上の270億パラメータからメガネ上の20億パラメータへと、PrismMLは計算資源がより限られた端末へと軸足を移しつつある。
なぜAR1 Gen 1なのか
Snapdragon AR1 Gen 1は、Qualcommが軽量なスマートグラス向けに設計したチップで、ディスプレイを持たないタイプのAIグラス「Ray-Ban Meta」もこのプラットフォームを採用している。メガネはバッテリーと放熱の余地が小さく、現在市場にあるAIグラスの多くは、視覚に基づく質問応答をスマートフォンやクラウド側に任せ、メガネ本体は撮影・集音・再生のみを担っている。
モデルをローカルで動かすことには2つの直接的な利点がある。1つはネットワークに依存しないため電波の弱い場所でも使えること、もう1つはカメラが捉えた映像を端末内にとどめ、アップロードせずに済むことだ。代償となるのはバッテリー持ちと性能面で、20億パラメータのモデルがどこまで複雑な質問に答えられるか、連続認識時の発熱や消費電力がどうなるかは、今回のデモでは示されておらず、実機の登場を待って検証する必要がある。
PrismMLが掲げるのは、オープンウェイトのAIを端末上で動かし、ユーザーがすでに手元に持つ計算資源をより有効に使うことで、少数の大手クローズドソースAI企業だけに依存しなくて済むようにするという方向性だ。
中国市場でも、Qualcomm製AR系チップは多くの国産AIグラスで採用されている。PrismMLのモデルはオープンウェイト路線を取っており、今後公開されれば中国のメガネメーカーや開発者も理論上は直接利用できることになるが、この2Bのビジョン対応版をいつ、どのライセンスで公開するかについて同社はまだ明らかにしていない。
参考資料：TechCrunch、CocoLoop、Qualcomm Snapdragon Summitでのデモ、PrismML公式ページ。モデルのパラメータ数、サイズ比、Bonsaiシリーズの数値は同社発表に基づく。