Awal tahun lalu, ada yang meramalkan "RAG sudah mati, model konteks panjang akan menggantikan segalanya." Hasilnya? RAG tidak hanya bertahan, tetapi justru berevolusi.
Dari RAG ke Context Engine
RAG awalnya berarti "retrieval-augmented generation" — mengambil informasi dari database eksternal dan memberikannya ke model. Namun pada akhir 2025, konsep ini telah berkembang menjadi "rekayasa konteks" yang lebih luas.
Logika intinya tidak berubah: membantu model secara dinamis memperoleh informasi konteks yang dibutuhkan. Namun pendekatannya berevolusi dari "pengambilan vektor sederhana + penggabungan" menjadi sistem perakitan konteks cerdas yang lengkap.
Mengapa Konteks Panjang Tidak Menggantikan RAG?
Secara teori, jendela konteks 1 juta token dapat menampung banyak hal. Namun kenyataannya:
- Biaya: Mengirim 1 juta token setiap panggilan membuat biaya API tidak tertahankan
- Akurasi: Semakin panjang konteks, semakin rendah akurasi pengambilan (Opus 4.6 hanya mencapai 76% pada 1 juta token)
- Latensi: Mengisi konteks berarti waktu pemrosesan yang lebih lama
Keunggulan inti RAG adalah pengambilan sesuai permintaan — hanya mengambil informasi yang paling relevan, tanpa memasukkan hal yang tidak perlu. Keunggulan ini tidak hilang saat jendela konteks membesar.
Kemajuan Teknis di Tahun 2025
Pengambilan hibrida: Menggabungkan pencarian semantik, pencarian kata kunci, dan grafik pengetahuan secara konsisten mengungguli metode tunggal mana pun.
GraphRAG: Mengekstrak pengetahuan ke dalam struktur grafik dengan organisasi hierarkis untuk meningkatkan penalaran.
RAG multimodal: Memasukkan embedding dari gambar, audio, tabel, dan video ke dalam cakupan pengambilan.
Adopsi Perusahaan yang Semakin Dalam
Pada tahun 2025, perusahaan menengah hingga besar secara sistematis membangun infrastruktur RAG. Konsep "RAG sebagai infrastruktur" telah terwujud — bukan sebagai komponen aplikasi tertentu, tetapi sebagai kemampuan dasar bersama untuk semua aplikasi AI.
Bagi agen AI, RAG bahkan lebih penting. Agen perlu mengambil informasi secara tepat dari data privat untuk menjalankan tugas — persis seperti yang paling diunggulkan RAG.
"Mudah dimulai, sulit dikuasai" adalah tantangan terbesar RAG. Membangun sistem RAG demo itu cepat, tetapi mencapai akurasi dan stabilitas tingkat produksi membutuhkan banyak penyesuaian.
Sumber: CocoLoop, Tinjauan Tahunan RAGFlow