신뢰할 수 있는 AI와 에이전트 RAG(AI총서)

AI의 경쟁력은 '정확함'이 아니라 '신뢰'다
생성형 AI는 이제 실험 단계를 넘어 실제 업무의 중심으로 들어왔다. 그러나 기술의 화려한 발전과 달리, 현장에서 가장 먼저 부딪히는 질문은 단 하나다. "이 결과를 믿을 수 있는가?" 환각, 최신 정보의 부재, 보안과 정확성 사이의 딜레마는 AI 도입을 가로막는 결정적 장벽이다. 이러한 문제의식에서 출발해, 신뢰할 수 있는 AI를 설계하는 방법을 구체적으로 제시한다. LLM의 한계를 보완하기 위한 RAG의 등장과 그 진화를 따라가며, 단순 검색-생성 구조를 넘어 스스로 판단하고 검증하는 '에이전트 RAG'로의 전환을 설명한다. 이제 AI는 정보를 단순히 끌어오는 수준을 넘어, 검색 결과를 평가하고 재질문하며, 생성된 답변의 오류까지 점검하는 능동적 시스템으로 발전하고 있다. 특히 랭그래프를 중심으로 한 그래프형 워크플로는 AI를 블랙박스에서 벗어나게 한다. 어떤 데이터를 근거로 어떤 판단이 이루어졌는지 추적 가능해지면서, 설명 가능성과 운영 가능성이 동시에 확보된다. 이는 단순한 성능 개선이 아니라, 신뢰 가능한 AI 시스템을 구축하기 위한 핵심 조건이다. 이 책은 기술 설명을 넘어, 실제 조직에서 작동하는 AI를 어떻게 설계할 것인가에 대한 실무적 통찰을 제공한다. AI 경쟁의 핵심이 성능이 아니라 '신뢰'로 이동한 지금, 그 전환의 중심을 짚어낸다.

신뢰할 수 있는 생성형 AI로 가는 길

01 LLM의 딜레마
02 RAG의 기본 원리
03 어드밴스드 RAG의 등장
04 에이전트 RAG의 개념
05 랭그래프 메커니즘
06 에이전트 RAG 설계
07 신뢰성 확보 전략
08 엔터프라이즈 적용
09 에이전트 RAG 구현 실무
10 지식 확장형 AI의 미래와 진화 전략

정천수 삼성SDS AX센터에서 부장(Principal Consultant)으로 근무하며 다수의 AI 프로젝트 PM을 수행했다. 고려대학교 컴퓨터공학 석사, 국민대학교 경영정보시스템 박사 학위를 받았다. AI가 실제 일터와 삶에 어떻게 도움이 될 수 있는지를 지속적으로 연구해 왔으며, 기업 현장의 AI 적용 프로젝트를 이끌며 생성형 AI, 멀티에이전트 시스템, AI 챗봇, 업무 자동화 기술을 연구하고 실무에 적용해 왔으며, 관련 성과를 국내·외 학술지에 발표했다. 또 과학기술정보통신부, 고용노동부, 농림축산식품부 등 정부와 산업계의 AI 부문 평가 및 자문위원으로 활동했으며, 생성형 AI의 가능성을 현실로 구현하고 '사람과 함께 성장하는 AI'를 실현하기 위한 신뢰할 수 있는 AI 생태계 구축에 힘쓰고 있다.