RAG란? 검색 증강 생성 쉽게 이해하기

한 줄 정의

RAG는 모델이 답을 만들기 전에 관련 문서를 먼저 찾아 참고하도록 하는 방식입니다.

왜 중요한가

일반 LLM은 학습 시점 이후 정보나 조직 내부 문서를 모릅니다. 그래서 최신성이나 정확도가 필요한 업무에서 한계가 생깁니다.
RAG를 쓰면 질의와 관련된 자료를 검색해 함께 넣고 답을 생성하므로, 답변 근거를 더 명확히 만들 수 있습니다.

언제 쓰는가 / 언제 안 쓰는가

쓰면 좋은 경우

• 사내 위키, 정책 문서, 기술 문서처럼 외부에 없는 지식을 써야 할 때
• 최신 공지, 버전 변경처럼 자주 바뀌는 정보가 중요할 때
• 답변 근거를 함께 보여줘야 하는 고객지원/업무 자동화

덜 적합한 경우

• 계산/추론 자체가 핵심인 문제(수학 최적화 등)
• 검색할 문서 품질이 낮거나 구조가 정리되지 않은 상태

쉬운 예시

“우리 회사 출장비 규정 알려줘”를 물어본다고 가정해 봅시다.

1. 사용자가 질문한다.
2. 시스템이 규정 문서에서 관련 단락을 검색한다.
3. 검색된 단락을 질문과 함께 LLM에 넣는다.
4. 모델이 규정 내용을 기반으로 답하고, 출처 링크를 함께 보여준다.

핵심은 “LLM이 기억해서 답한다”가 아니라, 필요한 문맥을 실시간으로 넣어준다는 점입니다.

자주 하는 오해

• 오해 1: RAG만 쓰면 환각이 사라진다
  현실: 환각을 줄일 수는 있지만, 검색 실패/문맥 혼합 오류는 여전히 생깁니다.

• 오해 2: 벡터DB만 넣으면 끝이다
  현실: 청킹, 임베딩 품질, 재랭킹, 프롬프트 설계가 성능을 크게 좌우합니다.

• 오해 3: 파인튜닝 대체재다
  현실: 둘은 대체 관계가 아니라 목적이 다릅니다. 최신 지식 주입은 RAG, 행동 패턴 변화는 파인튜닝이 더 적합합니다.

관련 용어 / 다음 읽기

• 임베딩
• 벡터 데이터베이스
• 파인튜닝