Naive RAG

쉽게 이해하기

가장 기본적인 "찾고 답하기" 방식이에요. 세 단계로 이루어집니다: 자료를 미리 정리해두고, 질문이 오면 관련 자료를 찾고, 찾은 자료를 보고 답변합니다. 마치 도서관에서 책을 분류해서 꽂아두고, 누가 질문하면 관련 책을 꺼내서 읽어주는 것과 비슷해요.

이 방식은 단순해서 빠르게 만들 수 있다는 장점이 있습니다. 예를 들어 사내 자주 묻는 질문(FAQ) 답변 시스템을 만들 때 딱 좋아요. "연차 신청 어떻게 해요?"라고 물으면 HR 문서에서 관련 내용을 찾아서 알려주는 식이죠.

다만 한계도 있습니다. 질문이 애매하면 엉뚱한 자료를 가져올 수 있어요. "사과"라고 검색하면 과일 사과와 사과문 중 뭘 찾아야 할지 헷갈리는 것처럼요.

노션(Notion)의 AI 검색이나 슬랙(Slack)의 AI 답변 기능이 초기에 이런 기본 방식으로 시작했어요. 구글 드라이브에서 문서를 검색해 요약해주는 간단한 사내 도구들도 대부분 이 방식을 씁니다. 쉽고 빠르게 구축할 수 있어서 처음 AI 검색 시스템을 도입하는 회사들이 가장 먼저 시도하는 방법입니다.

기술 심층 분석

📚 선수학습: 이 내용을 이해하려면 RAG (Retrieval-Augmented Generation)를 먼저 읽으면 좋습니다.

핵심 아키텍처

Naive RAG는 RAG 패러다임의 가장 기본적인 구현 형태로, "Retrieve → Read" 패턴을 따른다. 질의가 들어오면 벡터 검색으로 관련 문서를 가져오고, 이를 그대로 LLM 프롬프트에 삽입하여 답변을 생성한다. 추가적인 전처리, 후처리, 반복 루프가 없는 단일 패스(single-pass) 구조다.

사용자 질의 ──▶ 임베딩 ──▶ 벡터DB 검색 ──▶ Top-k 문서 ──▶ LLM 생성 ──▶ 답변
                                (단일 검색)        (단일 생성)

Naive RAG의 생성 확률은 표준 RAG 공식을 단순화한 형태로 볼 수 있다. 실제 구현에서는 주변화 대신 Top-k 근사를 사용한다:

$p(y \mid x) \approx p\!\left(y \mid x, \{z_1, z_2, \ldots, z_k\}\right)$

여기서 $\{z_1, \ldots, z_k\}$는 코사인 유사도 기준 상위 $k$개 문서다. 즉, 검색 결과를 하나의 컨텍스트로 **연결(concatenate)**하여 생성기에 한 번만 전달한다.

성능 및 비교

Naive RAG는 구현이 간단하지만, 여러 구조적 한계가 존재한다:

검색 단계의 문제:

• 의미적 불일치: 질의와 문서의 의미적 간극(semantic gap)¹이 클 때 관련 문서를 놓침
• 중복 문서: 유사한 내용의 청크가 Top-k를 독점하여 다양성이 부족
• 키워드 의존: 순수 벡터 검색은 정확한 엔티티(entity) 매칭에 약함

생성 단계의 문제:

• Lost in the Middle: 검색 결과가 많을수록 중간 문서가 무시됨
• 무비판적 수용: 검색된 문서의 품질을 검증하지 않고 그대로 사용
• 컨텍스트 오염: 관련 없는 문서가 섞이면 오히려 답변 품질이 하락

벤치마크 기준으로 Naive RAG는 NaturalQuestions에서 EM(Exact Match) 44.5, TriviaQA에서 EM 50.8 수준을 보여준다. 이는 순수 LLM보다 높지만, Advanced RAG 기법 적용 시 5~15% 추가 향상이 가능하다.

장점과 한계

장점:

• 구현 단순성: LangChain이나 LlamaIndex로 수십 줄 코드면 프로토타입 가능
• 낮은 레이턴시: 검색 1회 + 생성 1회로 응답 속도가 빠름
• 디버깅 용이: 파이프라인이 선형이어서 문제 구간 파악이 쉬움

한계:

• 복합 질의(multi-hop)에 대응 불가 — 단일 검색으로는 추론 체인을 구성할 수 없음
• 검색 실패 시 회복 메커니즘이 없음 (재검색, 쿼리 재작성 등)
• 문서 품질 필터링이 없어 노이즈에 취약

실무 적용 가이드

Naive RAG는 PoC(개념 증명) 단계나 단순 QA 용도로 적합하다. 다음 체크리스트를 활용하면 실무 품질을 확보할 수 있다:

1. 청킹 최적화: 문서 유형에 따라 고정 크기 vs 의미 단위(문단/섹션) 분할을 선택
2. 메타데이터 필터링: 검색 전 날짜, 카테고리 등으로 후보군을 좁힘
3. 유사도 임계값: $\text{sim}(q, d) < 0.3$인 문서는 컨텍스트에서 제외
4. 한계를 인지하고 다음 단계로: 성능이 부족하면 Advanced RAG로 전환