NVIDIA、AMD、CoreWeaveが同時に投資家リストに名を連ねることは珍しい。Tensormeshの今回の資金調達が注目されるのは、金額の大きさではなく、AI推論コストの中で最も無駄の多い部分——重複計算——に焦点を当てているからだ。
5月27日、TensormeshはAMD Ventures、NVIDIA傘下のNVentures、CoreWeave、Valley Capital Partners、Laude Venturesから2000万ドルを調達したと発表した。これまでの調達額を合わせると、累計約2450万ドルとなる。
同日、Tensormeshは推論最適化プラットフォーム「Tensormesh Inference」を一般提供開始した。同プラットフォームが解決する問題はシンプルだ。モデルが類似のリクエストや長いコンテキストを処理する際、すでに計算済みの中間結果を繰り返し計算し、GPU時間を浪費してしまう。
Tensormeshのアプローチは、こうした中間結果をKVキャッシュとして蓄積し再利用すること。すでに計算されたコンテキストは直接呼び出し、未計算の部分だけを計算する。同社によれば、適切なシナリオではレイテンシとGPUコストを最大90%削減でき、一部の顧客環境ではキャッシュヒット率が70%を超えるという。
この技術はエージェントシナリオで特に重要だ。複雑なタスクではモデルを数十回呼び出す必要があり、以前のコンテキストが後続のリクエストに繰り返し引き継がれる。毎回ゼロから計算すると推論コストが急増する。KVキャッシュは、こうした重複コンテキストを管理・再利用可能なインフラに変える。
Tensormeshはゼロから始めたわけではない。背後にはオープンソースプロジェクトLMCacheがあり、GitHubスター数は8000を超え、vLLM、SGLang、TensorRT、NVIDIA Dynamo、AWS SageMaker、Oracle OCIなどと統合されている。商用版は、実績のあるオープンソース基盤を、企業が直接導入・購入できるサービスとして提供する。
NVIDIA、AMD、CoreWeaveにとって、この投資は明確な論理に基づく。半導体メーカーやクラウド企業は、顧客がより安く安定して推論を実行できることを望んでいる。推論コストが制御可能になればなるほど、企業はAIアプリケーションを本番環境に導入しやすくなる。TensormeshはGPUを代替するのではなく、GPUの上で利用効率を高める。
過去1年間、AIインフラへの投資の多くはより大きなモデルとより多くのGPUに注がれてきた。Tensormeshは別の路線を代表する。同じモデルとハードウェアで、まず無駄な計算リソースを削減する。エージェントが推論量をさらに押し上げるにつれ、この「コスト削減」インフラ分野はますます混雑するだろう。
今後の焦点は、KVキャッシュが単なるポイント最適化から、企業推論スタックの標準レイヤーへと進化できるかどうかだ。その標準が確立されれば、Tensormeshは単なる資金調達の話題ではなく、AIアプリケーション時代における長期的な課金の入り口を獲得することになる。
参考元：Tensormesh Raises $20M from Investors Including AMD Ventures, CocoLoop、 CoreWeave, NVentures（Business Wire）；Tensormesh taps Nvidia, AMD and CoreWeave for funding to fix AI model memory problems（SiliconANGLE）