去年年初一度有人預言「RAG已死,長上下文模型會取代一切」。結果呢?RAG不但沒死,反而進化了。
從RAG到Context Engine
RAG最初的定義是「檢索增強生成」——從外部資料庫撈資訊,塞給模型一起用。但到2025年底,這個概念已經膨脹成了更廣義的「上下文工程」。
核心邏輯沒變:幫模型動態取得它需要的上下文資訊。但做法從「簡單的向量檢索+拼接」進化成一整套智慧上下文裝配系統。
為什麼長上下文沒有替代RAG?
理論上100萬token的上下文視窗可以塞進去很多東西。但現實是:
- 成本:每次呼叫都塞100萬token,API費用扛不住
- 精度:上下文越長,檢索準確率越低(Opus 4.6在100萬token時也只有76%)
- 延遲:塞滿上下文意味著更長的處理時間
RAG的核心優勢是按需檢索——只拿最相關的資訊,不塞廢話。這個優勢並不會因為上下文視窗變大而消失。
2025年的技術進展
混合檢索:語意搜尋+關鍵字搜尋+知識圖譜組合使用,效果穩定優於任何單一方法。
GraphRAG:把知識抽取成圖譜結構,層次化組織,提升推理能力。
多模態RAG:把圖片、音訊、表格、影片的嵌入也納入檢索範圍。
企業採用加深
2025年中大型企業已經在系統性地建設RAG基礎設施。「RAG即基礎設施」這個概念落地了——不是某個應用的元件,而是所有AI應用共用的底層能力。
對於AI代理來說,RAG更是剛需。代理需要從私有資料中精準獲取資訊來執行任務,這恰好是RAG最擅長的。
「易上手難精通」是RAG最大的挑戰。搭一個demo版RAG系統很快,但要做到生產級的精度和穩定性,需要大量的調優工作。
參考來源:CocoLoop、RAGFlow年度回顧