DeepInfra 在 5 月 4 日宣布完成 1.07 億美元 B 輪融資。金額不是 AI 基礎設施領域最誇張的，但投資人名單很有訊號。
這輪由 500 Global 領投，跟投方包括 Nvidia Corp.、Samsung Next、Supermicro、A.Capital、Felicis、Peak6、Upper90，以及 Google 早期工程師 Georges Harik。
輝達自己投一家「推理雲」新創，放在前兩年還很少見。那時候，推理需求大多被大型雲廠自己的服務吃掉。到了 2026 年，輝達開始把資金放到獨立推理基礎設施層，說明這一層已經從雲端服務裡分離出來。
DeepInfra 走到哪一步了
DeepInfra CEO Nikola Borisov 在公告裡說得很直接：
"Inference is no longer a thin layer - it's the system constraint that will define the majority of workloads."
換句話說，推理不再只是薄薄一層 API 代理，而是接下來多數工作負載的系統瓶頸。
- 支援 190 多個開源 AI 模型，包括 Llama、Qwen、DeepSeek、Mistral 等。
- 超過 30% 的 token 吞吐來自 Agent 類工作負載，也就是 autonomous agents，而不是一般聊天。
- 在美國有 8 個資料中心，使用自有 GPU 基礎設施，並運行 Nvidia Dynamo 分散式推理平台。
- GPU 組合包含 Blackwell 與 Vera Rubin。Vera Rubin 今年才量產，能拿到這類資源，和輝達的關係不難看出來。
- 公司還表示，每週處理 5 兆 token，自 Series A 以來 token 量增加 25 倍，2026 年開年至今營收成長 3 倍。
最值得看的數字是 30%。Agent 工作流和 Chatbot 不一樣。一個任務可能呼叫上百個工具、跑幾十次 API。它更像是 always-on 的後台系統，而不是使用者輸入一句話後才啟動。傳統雲端不擅長這種負載，因為它們的計費模型、cold start 假設和排程邏輯，都是為人機互動設計的。
為什麼自有 GPU 變成競爭力
這輪融資的核心其實很簡單：DeepInfra 不租 AWS 的 GPU，而是自己買、自己營運。
過去幾年，AI 推理的標準做法是租 AWS、GCP、Azure 的 GPU 服務。問題是這三家公司自己也賣模型 API，價格不低，還有 cold start 延遲。Together、Fireworks、Groq、DeepInfra 這批獨立推理雲在過去兩年一起冒出來，本質上就是吃到這個錯配。
DeepInfra 自稱成本效率提升 20 倍。這個數字需要打折看，因為比較口徑很重要。但如果跑的是開源模型，而且量很大，例如月活百萬級產品，轉到這類專門推理雲後，帳單砍半以上是常見體感。
推理雲賽道現在怎麼排
| 公司 | 特色 |
|---|---|
| Together AI | 全端平台，自研 CUDA 替代方案 |
| Fireworks AI | 和 Hugging Face 生態綁定較深 |
| Groq | 主打 LPU 專用晶片，曾被輝達和 AMD 關注 |
| Cerebras | 大型晶圓級晶片，正走向上市 |
| DeepInfra | 8 個自營資料中心、190 多個開源模型，重押 Agent 場景 |
DeepInfra 在估值上不是最亮眼的一家，但定位很清楚：專做開源模型的推理基礎設施，不做閉源模型代理，也不去捲模型層。它和 Together 最像，差異在於 DeepInfra 把從 GPU、排程到 API 的控制權都握在自己手裡。
Agent 化才是真正賭注
Borisov 說「推理是系統瓶頸」，不是單純公關話術。
當 Agent 工作流變成主流，每個使用者每分鐘可能在後端觸發幾十次推理。 Cursor 寫程式、Claude Code 改檔案、Salesforce 的 Agentforce 處理工單，這些場景和 ChatGPT 那種使用者打一段、模型回一段，完全不是同一個量級。
誰能在這種場景下壓住 p99 延遲、壓住成本，還能保證零資料保留，誰就更有機會拿下企業客戶。
DeepInfra 這輪融資話術裡，「agentic workloads」出現得比前幾輪更頻繁。接下來一年，這條賽道比的不是誰的模型目錄更長，而是誰的基礎設施能扛住「上千個 Agent 同時呼叫推理」這種狀態。
輝達自己下場投資，可能就是認為這件事真的要發生。
參考來源：DeepInfra Closes $107M Series B to Power Production-Scale AI Inference（GlobeNewswire）；Deepinfra lands $107M in funding to build out its dedicated inference cloud for open-source models（SiliconANGLE）；CocoLoop；DeepInfra Raises $107M Series B to Scale Inference Infrastructure（DeepInfra Blog）