RAG 엔지니어링(AI 문고)

RAG의 성능은 모델보다 구성 요소의 정렬에서 갈린다
RAG는 대형 언어 모델에 외부 지식을 연결해 최신 정보를 반영하고 환각을 줄이는 방법으로 주목받았다. 그러나 실제 시스템에서는 관련 문서를 찾아 놓고도 답변에 반영하지 못하거나, 유사하지만 틀린 문서를 근거 삼아 더 그럴듯한 오류를 만드는 일이 발생한다. 이런 실패를 모델 성능의 문제가 아니라 검색과 생성이 서로 다른 기준으로 움직이는 구조적 문제로 바라본다. 청킹은 의미를 잘라내고, 임베딩은 유사성을 정답성과 혼동하며, 검색은 불필요한 문서를 끌어오고, 생성 모델은 이를 다시 하나의 자연스러운 문장으로 재구성한다. 각 요소는 개별적으로 잘 작동해도 전체 시스템에서는 예상 밖의 오류를 만들 수 있다. 그래서 "어떤 모델이 좋은가"보다 "어떤 조건에서 어떤 선택이 적절한가"를 묻는다. 청크 크기, 임베딩 모델, top-k, 질의어 변형, 검색 전략을 통제된 실험으로 비교하고 정확률·재현율·MRR·NDCG와 근거 일치성을 함께 평가한다. RAG를 조립하는 법이 아니라 왜 실패하는지 이해하고, 구성 요소의 상호작용을 실험으로 검증해 재현 가능한 설계 기준을 만드는 법을 제시한다.

실험으로 이해하는 검색 기반 생성

01 RAG는 무엇을 하는 시스템인가
02 청크(Chunk)는 무엇을 바꾸는가
03 임베딩은 무엇을 놓치는가
04 검색은 왜 오차가 발생하는가
05 질의는 왜 변형해야 하는가
06 문서는 왜 성능에 영향을 미치는가
07 프롬프트는 어디까지 해결하는가
08 실패 사례로 보는 RAG
09 RAG는 어떻게 평가해야 하는가
10 RAG 설계의 기준

강한훈 세종대학교 컴퓨터공학과에서 박사학위를 받았으며, 삼성SDS 연구소에서 Senior Researcher로 근무했다. 추천 시스템, 텍스트 마이닝, 감정분석을 중심으로 연구를 시작했으며(2007∼2012), 이후 산업 현장에서 활용 가능한 텍스트 마이닝 기술 연구와 사업화 과제에 참여했다(2013∼2023). 최근에는 생성형 AI와 관련하여 이미지 생성 모델, 대규모 언어 모델(LLM), RAG 기술로 연구 영역을 확장하고 있다(2024∼). 특히 RAG의 핵심 구성 요소인 검색 기술의 개선과 실제 서비스 적용에 관심을 두고 있으며, 관련 연구를 KCI 및 SCIE급 학술지에 게재하며 연구 활동을 이어 가고 있다.