DeepMind、シンガポールの詐欺対策モデルを端末内で動作
DeepMindとシンガポールのGovTechが軽量Gemmaを微調整し、会話内の詐欺の兆候を端末上で検知。メッセージはクラウドに送信されない。性能指標は未公表。
オンデバイスAIのニュースと分析
オンデバイスAIに関する製品動向と業界分析を全16件掲載しています。
面壁智能がMiniCPM-V 4.7公開、35Bモデルがスマホで3GB
面壁智能とOpenBMBがMiniCPM-V 4.7を公開。MoE型の35B-A3BはiPhone 17 Pro Maxで約3GBのメモリ、毎秒13トークン超で動作するという。
Google、7.4億パラメータの埋め込みAI公開
Googleが7.4億パラメータの多モーダル埋め込みモデルを公開。端末上で画像や音声の検索に使える。
PrismML、1bitモデルをメガネ向けチップに搭載
Qualcommがメガネ向けチップ「AR1 Gen 1」上でPrismMLの1bit・20億パラメータモデル「Bonsai」をローカル実行するデモを披露した。
Hugging Face、ブラウザ用GPUカーネル207種を公開
Hugging FaceがWebGPUカーネル207種とローダー@huggingface/kernelsを公開。809件のベンチマークで幾何平均2.57倍の高速化を確認した。
M6が2nm初搭載、M5 Ultraは512GBメモリ搭載
AppleがM6とM5 Ultraを発表。M6は2nmプロセスを初採用してMac miniに、M5 UltraはMac Studio向けに512GBのユニファイドメモリと1.2TB/sの帯域幅を実現した。
Liquid AIが投機的デコードで3.18倍高速化
Liquid AIがLFM2.5-DSparkドラフトモデルをHugging Faceで公開。オンデバイス3モデルに投機的デコードを実装し、出力を保ったまま最大3.18倍の高速化を実現した。
Liquid AI、蒸留でQ4_0精度97%に回復
Liquid AIが新手法QADで、精度の低さから見捨てられていたQ4_0量子化フォーマットをBF16基準の96〜97%まで回復させ、Arm CPUでの速度優位はそのまま維持した。
面壁智能、A株IPO指導へ
面壁智能は中信証券の指導でA株IPO準備に入り、端末側大規模モデルの商業化が監査可能な収益と顧客構造で問われる段階に入った。
MiniCPM、ロボットモデルを端末側へ
OpenBMBは1.5Bの操作モデルと0.9Bの追跡モデルを含むMiniCPM-Robotを公開し、ローカル推論の遅延を前面に出した。
PrismML、27BモデルをiPhoneに詰め込む
PrismML、27BモデルをiPhoneに詰め込む。確認済みの事実と、その背後にある産業上の意味を簡潔に整理する。
Perplexity、Intelとローカル・クラウド混合推論へ
Perplexityは、軽い処理や機微データをPC側に残し、複雑な推論だけをクラウドへ送る仕組みをComputexで披露した。
Chrome、4GBのGemini Nanoを端末へ静かに配布
GoogleはChromeの安全機能向けだと説明するが、数GB規模のオンデバイスAIを明確な同意なしに配布したことで、プライバシーと同意をめぐる議論が広がっている。
Google、Gemma 4をApache 2.0ライセンスに変更し4モデルを公開
Google DeepMindは4月2日にGemma 4をリリース。Apache 2.0ライセンスに移行し、31BモデルがArena AIオープンソースランキングで3位にランクインした。
Apple、3BパラメータのオンデバイスAIモデルをiPhoneに搭載
AppleのAI戦略は、最も強力な汎用モデルを追求するのではなく、オンデバイス展開とプライバシー保護に重点を置いています。Apple Silicon向けに最適化された約30億パラメータのApple Foundation ModelsがiPhone上でローカルに動作し、複雑なタスクはPrivate Cloud Computeが処理します。
Google、端末上で動く画像生成 NanoBanana を投入
Google、端末上で動く画像生成 NanoBanana を投入. 発表内容、戦略的な背景、影響を受ける利用者や企業にとっての実務上のリスクを整理する。