Anfang letzten Jahres sagten manche voraus: „RAG ist tot, Langkontext-Modelle werden alles ersetzen." Und was geschah? RAG ist nicht nur nicht tot, es hat sich weiterentwickelt.
Von RAG zur Context Engine
Die ursprüngliche Definition von RAG war „Retrieval Augmented Generation" – Informationen aus externen Datenbanken holen und dem Modell zur gemeinsamen Nutzung zuführen. Aber Ende 2025 hatte sich dieses Konzept zu einem breiteren „Context Engineering" ausgeweitet.
Die Kernlogik blieb gleich: Dem Modell dynamisch die benötigten Kontextinformationen bereitstellen. Doch die Methode hat sich von „einfachem Vektor-Retrieval + Verkettung" zu einem intelligenten Kontext-Assemblierungssystem entwickelt.
Warum Langkontext RAG nicht ersetzt hat
Theoretisch kann ein Kontextfenster von 1 Million Token viel aufnehmen. Die Realität sieht anders aus:
- Kosten: Jeder Aufruf mit 1 Million Token treibt die API-Kosten in die Höhe
- Präzision: Je länger der Kontext, desto geringer die Retrieval-Genauigkeit (Opus 4.6 erreicht bei 1 Million Token nur 76 %)
- Latenz: Ein voller Kontext bedeutet längere Verarbeitungszeiten
Der Kernvorteil von RAG ist bedarfsorientiertes Retrieval – nur die relevantesten Informationen holen, keinen Ballast mitnehmen. Dieser Vorteil verschwindet nicht, nur weil das Kontextfenster größer wird.
Technische Fortschritte 2025
Hybrid-Retrieval: Kombination aus semantischer Suche + Schlüsselwortsuche + Wissensgraph, liefert stabil bessere Ergebnisse als jede Einzelmethode.
GraphRAG: Wissen wird in Graphstrukturen extrahiert, hierarchisch organisiert und verbessert die Schlussfolgerungsfähigkeit.
Multimodales RAG: Embeddings von Bildern, Audio, Tabellen und Videos werden ebenfalls in den Retrieval-Bereich einbezogen.
Vertiefte Unternehmensadoption
2025 bauten mittlere und große Unternehmen systematisch RAG-Infrastruktur auf. Das Konzept „RAG als Infrastruktur" wurde Realität – nicht als Komponente einer einzelnen Anwendung, sondern als gemeinsame Basisfähigkeit aller KI-Anwendungen.
Für KI-Agenten ist RAG erst recht ein Muss. Agenten benötigen präzise Informationen aus privaten Daten, um Aufgaben auszuführen – genau das, was RAG am besten kann.
„Leicht zu beginnen, schwer zu meistern" ist die größte Herausforderung von RAG. Eine Demo-Version eines RAG-Systems ist schnell aufgebaut, aber um Produktionsreife in Genauigkeit und Stabilität zu erreichen, ist viel Optimierungsarbeit nötig.
Quellenangabe: CocoLoop, RAGFlow Jahresrückblick