端側模型公司 Edge0 於 11 月 12 日開源 Edge0-145B 與 Edge0-120B，同時釋出統一推論框架與部署工具。公司稱 145B 是首個參數量達到 1450 億的開源端側模型，目標裝置是個人筆電，不需要伺服器。
首發支援 macOS、Windows 與 Linux，涵蓋蘋果 M 系列晶片，以及輝達 RTX Spark、RTX 4090、RTX 5090 等平台。權重放在 Hugging Face，推論框架在 GitHub，另有一款免帳號、無額度限制的桌面 App，核心功能可離線使用。
跑分對標的是「Flash」級雲端模型
Edge0 公布的成績中，DeepSWE 1.1 得分 64.6，Qwen3.8-Flash-Next 為 58.7，DeepSeek-V4-Flash-0731 為 54.4；Terminal-Bench 2.1 得分 86.52，高於這兩款的 83.3 與 82.7。GPQA-Diamond 為 90.4，略低於 DeepSeek-V4-Flash-0731 的 90.8；HLE 為 35.4，也略低於 Qwen3.8-Flash-Next 的 35.9。
這些分數有個前提：Edge0、Qwen、DeepSeek 與 Claude 的結果都出自 Edge0 內部評測，完整測試環境與重現說明將隨技術報告一併發布。對照表裡放的 Claude 是 Opus 4.6 (Max)，屬於較早的一代，現在的旗艦早已更新。在第三方複測出爐之前，這張表只能視為廠商自行公布的數字。
與自家先前的手機模型相比，跨度相當大。9 月發表的 Edge0-35B 在 iPhone 18 Pro Max 上約使用 2.5GB 記憶體，每秒 37 個 token 以上；145B 的參數量約為它的四倍，改放到筆電上執行。蘋果的端側基礎模型約 3B，Google 的 Gemini Nano 有 1.8B 與 3.25B 兩個版本，Edge0 以這兩個數字說明，此前的端側模型普遍在 10B 以下。
1450 億參數如何塞進 29GB
粗略估算：145B 參數以常規 4-bit 量化，光權重就需要約 72GB，遠超過 29GB。Edge0 提出的做法分為四層。
架構上共用大矩陣。每 64 個專家共用兩組大矩陣，每個專家只保留一小組描述差異的參數，儲存與搬運的權重量因此下降，專家數量則維持不變。每步推論只啟動約 10B 參數。
訓練時就按端側結構來。模型從一開始就在端側架構上訓練，沒有走「先訓練雲端大模型、再壓縮剪枝」的路線。
載入分成三級儲存流水線。常用的「熱專家」留在顯示記憶體裡，約 40GB 的專家庫放在系統記憶體，視需要調入顯示記憶體；約 48GB 的詞表資料放在 SSD 上隨用隨讀。讀取與運算重疊進行，避免串列等待。
排程上 CPU 與 GPU 一起運作。GPU 計算快取中的專家，CPU 並行處理其餘部分，再搭配推測解碼一次驗證多個候選 token，把讀取權重的開銷分攤到更多輸出上。
這裡有一處部落格沒有交代清楚：峰值記憶體 29GB，與放在系統記憶體裡的約 40GB 專家庫，兩個數字如何對得上、統計口徑是否只算了顯示記憶體一側，文中並未說明。Edge0 自己的對比圖標示的是 48GB 筆電可用，想在本機執行的使用者，以 48GB 統一記憶體來準備會比較穩妥。
展示與公司說法
Edge0 放出幾個本地 Agent 展示：一小時內做出一支講解影片、在 Blender 裡搭建曼哈頓城市場景、撰寫讓無人機穿越障礙尋找紅色背包的程式，以及從 KiCad 佈線一路做到 UE5 組裝動畫。這些都是公司內部測試，省下多少人力與雲端 token 費用，也是公司自行換算的結果。
公司還稱旗下四個系列一年內發布了 200 個模型，開源模型三個月下載超過 1500 萬次，截至 10 月已有 11 萬多家客戶組織。這些規模數字目前只有公司單方面的說法，無從查證。
參考來源：Edge0 官方發布部落格、Hugging Face 模型頁、CocoLoop、Edge0 GitHub 推論框架說明；跑分均為 Edge0 內部評測口徑，29GB 為廠商實測峰值記憶體。