MicrosoftはWindows向けのRDMA over USB4について、開発者プレビューを公開した。複数のWindows PCを一般的なUSB4ケーブルでつなぐだけで、それぞれのメモリとGPUを合算し、1つのローカル大規模モデルを動かせる。RDMA専用のネットワークカードもスイッチもサードパーティ製ドライバーも必要ない。
想定しているのは、1台のメモリには収まらないモデルだ。これまでは、モデルをさらに小さく圧縮するか、リクエストをクラウドに任せるかのどちらかだった。今回、もう1台つなぐという選択肢が加わる。

ミニPC3台で235Bモデルを動かす
Microsoftは、AMDとIntelそれぞれのデモを2組公開した。
| 構成 | モデル | 生成速度 |
|---|---|---|
| Ryzen AI Max+ 395 を3台(各128GB) | Qwen3-235B-A22B(4ビット量子化) | 18.5〜21.98トークン/秒 |
| Core Ultra シリーズ3 を3台(各64GB) | GPT-OSS-120B | 49.4トークン/秒 |
| Core Ultra シリーズ3 を4台(各64GB) | GPT-OSS-120B | 54.2トークン/秒 |
AMD側の構成は、Radeon 8060S内蔵GPUを備え、1台あたり128GBのユニファイドメモリを積んだミニPCを使っている。18.5はMicrosoft自身の測定値で、21.98はAMDが自社構成で出した数値だ。Intel側は3台から4台に増やすと速度が49.4から54.2に上がったが、1台増やしても伸びは1割に満たない。
なぜ複数台をつなぐのか、概算するとわかる。235Bパラメーターを4ビットで保持すると、重みだけで118GB近くになる。128GBのマシン1台に載せると、コンテキストやOS用の余裕はほとんど残らない。3台に分ければ、長いコンテキストを扱う余地が生まれる。これはパラメーター数に基づく見積もりで、実際の使用量は量子化形式やコンテキスト長にも左右される。Microsoftは各ノードのメモリ使用量を公表していない。
高速化の鍵はネットワークスタックの迂回
RDMA(リモートダイレクトメモリアクセス)は、2台のマシン間でデータを転送する際に、通常のネットワークソフトウェアの大半を経由しない仕組みだ。Microsoftが示す小さなメッセージの往復レイテンシは約28〜50マイクロ秒で、同じUSB4リンク上のUDPと比べて4倍ほど速い。リンク速度は40Gbpsと80Gbpsの2段階に対応し、互換性のあるThunderbolt 4/Thunderbolt 5ポートでも使える。
分散推論はレイテンシに敏感だ。モデルを複数のマシンに分割すると、トークンを1つ生成するたびに中間結果がマシン間を行き来する。転送が少し遅くなるだけで、全体の速度が落ちる。
配線には決まりがある。Microsoftは各PCを、他のすべてのPCと直接つなぐことを求めている。3台なら1台あたりUSB4ポートを2つ使い、ケーブルは計3本。このルールで考えれば、4台では1台あたり3ポート、ケーブルは6本になる。Microsoftは、マシンを数珠つなぎにすると性能が大きく落ちると特に注意している。一般向けPCのUSB4ポートは数が限られるため、この方式の規模は4〜5台程度が上限になると編集部は見ている。
専用NIC方式との比較
RDMAはサーバーやAIクラスターで長年使われ、WindowsもLinuxもとうに対応している。ただし常に専用ハードウェアが必要だった。ServeTheHomeは以前、NVIDIA GB10を8ノード並べ、合計1TBのメモリを持つクラスターを披露した。ConnectX-7ネットワークカードと200Gbpsイーサネットを使い、RoCEプロトコルで接続する構成だ。リンク速度はUSB4の数倍に達する一方、全マシンに専用NICを載せ、さらにスイッチを1台用意する必要がある。
Appleはこれに近い方向を進んでいる。昨年末にmacOSでThunderbolt 5向けにRDMAを開放し、複数のMacを積み重ねて大規模モデルを動かす使い方が広がった。Windows陣営について、VideoCardzはRTX SparkシリーズのPCにはDGX SparkのようなConnectX-7ポートがないと指摘している。Microsoftのこの機能が狙うのは、まさにそうしたマシンであり、AMDのStrix HaloやGorgon Haloを搭載したミニPCも含まれる。
こうして比べると、USB4方式の立ち位置は明確だ。帯域や拡張性ではデータセンターのやり方に及ばないが、追加ハードウェアが要らない。手元に新しいPCが2〜3台ある小規模チームや個人でも試せるのが強みだ。
いつから使えるのか
現時点で公開されているWindowsには、この機能はまだ入っていない。Microsoftは、Windows InsiderのExperimentalチャネルで提供する計画だが、具体的な日付は明らかにしていない。基盤となるNetworkDirectプロバイダーと、改変版のllama.cpp推論フレームワークはすでにオープンソース化されており、先に試したい開発者はコードを確認できる。
Microsoftが触れていない点もいくつかある。どのUSB4コントローラーチップが対応リストに入っているのか、メーカーの異なるマシンを混在させて接続できるのか、OllamaやLM Studioといった定番ツールがいつ対応するのか、などだ。デモはいずれも新世代チップで行われており、古めのUSB4搭載PCで使えるかどうかは、プレビュー版の公開後に実測を待つ必要がある。
参考資料:Microsoft USBテックブログ、VideoCardz、CocoLoop。3組のデモについて、マシン構成、使用モデル、毎秒トークン数、往復レイテンシと配線要件を照合した。