微軟新基準讓AI Agent跑20次,穩定不到一半
微軟與Hugging Face的新基準ThinkingBox讓18個模型各跑20次同一任務,評分依據是資料庫的實際結果,而不是AI Agent自己回報的完成訊息。
收錄 大模型評測 相關產品動態與產業觀察,共 9 篇文章。
微軟與Hugging Face的新基準ThinkingBox讓18個模型各跑20次同一任務,評分依據是資料庫的實際結果,而不是AI Agent自己回報的完成訊息。
OpenAI在Astra部署安全文件中坦言,思維鏈可監測性較GPT-5.6 Sol明顯下滑,英國AI安全研究院的評測也給出了具體數字。
OpenAI發布GPT-6 Astra部落格文章後,頁面裡的評測數據被多次修改,幻覺率一度從4.2%降到2%又改回4.2%,對手模型的分數也遭調整。
Fable 5.1在192個模型中拿下智慧指數第一(66分),但單一任務評測成本從3.14美元漲到3.69美元。
柏克萊RDI實驗室推出Vero基準,要求AI代理人在整個Lean 4儲存庫規模上同時寫實作、寫證明。就算是表現最好的模型,43個專案裡也只有27個被完整解出。
Hume AI 對 11 款主流語音辨識模型的診斷實驗發現,公開榜單分數愈高的模型,愈可能是在複誦資料集本身寫錯的參考文字,而非真的聽得更準。
阿里用海關編碼測出 Agent 短板以繁體中文科技新聞語氣重寫,保留關鍵數字、產品邊界與後續觀察點。
750 題基準測試顯示,前沿模型已能輔助生命科學,但距離獨立承擔研究仍很遠。
上海交通大學牽頭的新基準指出,agent 常能找到正確文件,但真正與 bug 相關的行命中率只有約 14% 到 19%。