RAG chưa chết, đang trở thành công cụ ngữ cảnh cho ứng dụng AI

Đầu năm ngoái, từng có người dự đoán "RAG đã chết, mô hình ngữ cảnh dài sẽ thay thế mọi thứ". Kết quả ra sao? RAG không những không chết, mà còn tiến hóa.

Từ RAG đến Context Engine

Định nghĩa ban đầu của RAG là "truy xuất tăng cường sinh" – lấy thông tin từ cơ sở dữ liệu bên ngoài, nhồi vào mô hình để dùng cùng. Nhưng đến cuối năm 2025, khái niệm này đã mở rộng thành "kỹ thuật ngữ cảnh" theo nghĩa rộng hơn.

Logic cốt lõi không thay đổi: giúp mô hình động lấy được thông tin ngữ cảnh cần thiết. Nhưng cách làm đã tiến hóa từ "truy xuất vector đơn giản + ghép nối" thành một hệ thống lắp ráp ngữ cảnh thông minh hoàn chỉnh.

Tại sao ngữ cảnh dài không thay thế được RAG?

Về lý thuyết, cửa sổ ngữ cảnh 1 triệu token có thể nhồi rất nhiều thứ. Nhưng thực tế là:

  1. Chi phí: Mỗi lần gọi đều nhồi 1 triệu token, phí API không chịu nổi
  2. Độ chính xác: Ngữ cảnh càng dài, độ chính xác truy xuất càng thấp (Opus 4.6 ở 1 triệu token chỉ đạt 76%)
  3. Độ trễ: Nhồi đầy ngữ cảnh đồng nghĩa với thời gian xử lý lâu hơn

Lợi thế cốt lõi của RAG là truy xuất theo nhu cầu – chỉ lấy thông tin liên quan nhất, không nhồi rác. Lợi thế này sẽ không biến mất chỉ vì cửa sổ ngữ cảnh lớn hơn.

Tiến bộ kỹ thuật năm 2025

Truy xuất hỗn hợp: Kết hợp tìm kiếm ngữ nghĩa + tìm kiếm từ khóa + đồ thị tri thức, hiệu quả ổn định hơn bất kỳ phương pháp đơn lẻ nào.

GraphRAG: Trích xuất tri thức thành cấu trúc đồ thị, tổ chức phân cấp, nâng cao khả năng suy luận.

RAG đa phương thức: Đưa embedding của hình ảnh, âm thanh, bảng biểu, video vào phạm vi truy xuất.

Doanh nghiệp áp dụng sâu hơn

Năm 2025, các doanh nghiệp vừa và lớn đã xây dựng hạ tầng RAG một cách hệ thống. Khái niệm "RAG là hạ tầng" đã thành hiện thực – không phải thành phần của một ứng dụng cụ thể, mà là năng lực nền tảng dùng chung cho mọi ứng dụng AI.

Đối với AI Agent, RAG càng là nhu cầu thiết yếu. Agent cần lấy thông tin chính xác từ dữ liệu riêng để thực thi nhiệm vụ, đây chính là điều RAG làm tốt nhất.

"Dễ bắt đầu, khó tinh thông" là thách thức lớn nhất của RAG. Dựng một hệ thống RAG demo rất nhanh, nhưng để đạt độ chính xác và ổn định cấp sản xuất, cần rất nhiều công sức tinh chỉnh.

Nguồn tham khảo: CocoLoop, Tổng kết năm của RAGFlow