LangChain과 LangGraph로 만드는 LLM 애플리케이션(2판)(소프트웨어 아키텍처)

LangChain 공동 창업자 해리슨 체이스의 강력 추천! 프로토타입에서 프로덕션까지, LLM 애플리케이션 개발 전 과정을 담은 실전 가이드 LangChain 공동 창업자이자 CEO인 해리슨 체이스는 이 책을 "LLM 애플리케이션을 아이디어 단계에서 실제 엔터프라이즈 환경까지 끌어올리는 탁월한 안내서"라고 평했다. 그가 직접 추천한 이유는 분명하다. 이 책은 단순한 튜토리얼을 넘어, 프로토타입을 실제 프로덕션 시스템으로 전환하는 방법을 가장 체계적으로 제시하기 때문이다. 이 책을 먼저 읽어본 베타리더들 역시 각자의 관점에서 그 가치를 구체적으로 짚어냈다. 베타리더 후기 이 책은 LLM 기반 애플리케이션을 실제로 구현하고 싶은 개발자라면 한 번쯤 곁에 두어야 할 실전 입문서다. LangChain의 기본 개념부터 시작해 LangGraph를 활용한 복잡한 에이전트 흐름 설계까지, 단계적으로 쌓아 올리는 구성 덕분에 이론과 실습 사이의 간격이 크지 않다. 특히 단순한 챗봇 수준을 넘어 RAG 파이프라인, 멀티 에이전트 아키텍처 같은 실무에 가까운 예제가 풍부하게 담겨 있어, 읽는 내내 "이걸 실제 프로젝트에 바로 써볼 수 있겠다"는 느낌이 들었다. 개인적으로 가장 도움이 된 부분은 LangGraph였다. LangChain만으로는 다소 복잡하게 느껴졌던 상태 관리와 에이전트 간 흐름 제어를 그래프 구조로 직관적으로 표현하는 방식이 인상적이었다. 코드 예제도 충분히 상세해서 처음 접하는 개념이라도 따라가기 어렵지 않았다. 2판에서 보강된 내용도 현재 LLM 생태계의 흐름을 잘 반영하고 있어, 1판을 읽었던 독자라도 다시 펼쳐볼 가치가 충분하다. Python 기초 지식을 갖추고 LLM 애플리케이션 개발에 첫발을 내딛으려는 분, 혹은 간단한 LangChain 경험은 있지만 에이전트 설계나 LangGraph 활용에서 막혀 있는 분께 특히 추천한다. 개념 설명과 실습 코드가 균형 있게 구성되어 있어, 처음부터 끝까지 따라가다 보면 어느새 자신만의 LLM 애플리케이션 하나를 손에 쥐게 될 것이다. - 윤명식(엔터프라이즈디비) 이 책을 한 문장으로 요약하자면 "Hello, LangChain"이 될 것이다. 공식 문서의 Getting Started를 따라가다 보면 코드는 돌아가는데, 정작 왜 이것이 랭'체인'이고 랭'그래프'인지 감이 잡히지 않는 경험을 하게 된다. 이 책은 바로 그 부분부터 짚고 들어간다. 동작하는 코드를 먼저 보여준 뒤 체인과 그래프라는 핵심 개념을 자연스럽게 설명해 나가는 방식 덕분에, 단순한 사용법을 넘어 LangChain이 어떻게 사용하도록 설계된 프레임워크인지를 처음부터 제대로 배울 수 있다. 또한 LangChain과 LangGraph에만 그치지 않고, LLM을 다루는 데 필요한 주변 개념도 깊지는 않지만 한 번씩 다뤄 준다는 점도 장점이다. 덕분에 입문자도 LLM 개발의 전체적인 그림을 보면서 시작할 수 있다. - 이주영(크래프톤 / Art Dept. Visual R&D Team) 이 책은 LangChain과 LangGraph를 활용해 LLM 애플리케이션을 실제 서비스 구조로 구현하는 흐름을 다루는 실무 중심서다. 개념 설명에 그치지 않고, 환경 설정부터 LCEL, 워크플로, RAG까지 단계적으로 이어지며 전체 아키텍처를 이해할 수 있게 구성되어 있다. LLM 기능을 기존 서비스에 어떻게 연결하고 확장할지 고민하는 개발자에게 특히 유용하며, LangChain과 LangGraph를 체계적으로 익히고 싶은 실무 개발자에게 추천할 만한 책이다. - 최지현(프리랜서 웹 개발자) AI를 단순히 사용하는 것과 AI를 활용해 애플리케이션을 개발하는 것은 전혀 다른 차원의 이야기가 될 수 있다. LLM의 선택뿐 아니라 어떤 프레임워크와 도구를 이용해 AI가 보다 제대로 활용될 수 있도록 할지 고민해야 한다. 이 책은 파이썬 환경에서 LangChain과 LangGraph를 중심으로 한 AI 관련 패키지로 RAG를 구축하고 에이전틱 AI를 만들어 보면서, 현업에서 요구되는 다양한 상황에 맞춰 AI 기반 애플리케이션을 개발하는 방법과 사례를 다룬다. AI 기반 제품 개발에 참여하고 있거나 관련된 분들에게 좋은 지침서가 될 것이다. 특히 AI 기반 애플리케이션이 어떻게 동작하는지 다양한 관점에서 시험해 볼 수 있는 예제들이 제공되고 있어, 실전에서 빠르게 응용할 수 있는 연습 파트너로도 손색이 없다. - 노승헌(라인플러스 / SRE팀 리드) 이 책은 LangChain과 LangGraph를 프로덕션 수준의 서비스에 적용하려는 개발자에게 현장에서 바로 쓸 수 있는 해결법을 폭넓게 제시한다. 생성형 AI(LLM), RAG, 도구, 에이전트의 기본 개념부터 컨텍스트 창 제한, 병렬 에이전트 합의 문제, 시맨틱 라우터 패턴, LLM 평가 기법까지 실무에서 맞닥뜨리는 수많은 주제를 코드와 함께 단계별로 설명한다. LangGraph 에이전트의 흐름을 상태 그래프로 시각화한 덕분에 복잡한 구조도 한눈에 들어오고, 각 장 말미의 복습 문제는 읽은 내용을 다시 한번 되짚어 준다. 평가, 배포, HuggingFace, Ollama, 오픈소스 모델까지 다루는 범위가 방대한 만큼 AI 개발을 처음 접하는 입문자에게는 다소 벅찰 수 있지만, 그만큼 이 한 권에서 얻어 갈 것이 많은 책이다. - 안단희(레피아 / 솔루션 개발 팀) 이 책은 단순한 도구 사용법을 넘어, LangChain·LangGraph·LangSmith를 활용한 실제 서비스 구축 방법론을 집대성한 책이다. 특히 RAG 구성 시 공문서 처리에 필수적인 청킹 전략과 벡터 스토리지 선택 등 인프라 측면의 기술적 힌트를 풍부하게 제공한다. 단순 구현을 넘어 답변의 질을 높이는 팩트체크 기법과 에이전틱 RAG로의 확장성, 그리고 실무 현장의 난관을 돌파할 논문 기반의 해결책을 제시하는 점이 인상적이다. 또한 기술·도메인 전문가가 협력하는 교차 기능 작업 그룹 기반의 평가 시스템과 LangSmith를 이용한 궤적 평가, 도커 배포 등 운영 전반을 상세히 다룬다. 다양한 기술 비교표로 가독성을 높였으며, 생성형 AI의 미래와 저작권 등 기획적 고민에 대한 답안지도 담고 있다. 완성도 높은 서비스를 고민하는 기획자와 개발자는 물론, 실질적인 영감과 해법을 구하는 저 같은 독자에게도 이 책을 권한다. - 최규민(행정안전부) 이 책은 LangChain과 LangGraph를 중심으로 LLM 애플리케이션을 어떻게 구조적으로 설계하고 구현할 수 있는지 이해하는 데 도움을 준다. 단순히 모델을 호출하는 수준을 넘어, 실제 애플리케이션 관점에서 흐름을 어떻게 연결하고 확장할지 생각하게 해준 점이 특히 인상적이었다. LLM 기반 서비스를 처음 체계적으로 만들어보려는 개발자나, 기존의 프롬프트 중심 접근에서 한 단계 나아가고 싶은 분들에게 추천한다. - 김준현(코드잇, 팀스파르타 / AX Engineer 강사)

1장. 생성형 AI의 부상: 언어 모델에서 에이전트로
최신 LLM 기술 동향
____모델 비교
____LLM 공급자 현황
____라이선싱
단순 모델에서 에이전틱 애플리케이션으로의 진화 과정
____기존 LLM의 한계
____LLM 애플리케이션 이해
____AI 에이전트 이해
LangChain 소개
____원시 LLM의 문제점
____LangChain이 에이전트 개발을 지원하는 방법
____LangChain 아키텍처 살펴보기
________생태계
________모듈식 설계 및 종속성 관리
________LangGraph, LangSmith 및 동반 도구들
________서드파티 애플리케이션과 시각적 도구
요약
복습문제

2장. LangChain 첫걸음
이 책에 대한 종속성 설정
____API 키 설정
LangChain의 빌딩 블록 살펴보기
____모델 인터페이스
________LLM 상호작용 패턴
________개발 테스트
________채팅 모델과 작업
________추론 모델
________모델 동작 제어
________애플리케이션을 위한 매개변수 선택
____프롬프트와 템플릿
________채팅 프롬프트 템플릿
____LangChain 표현 언어(LCEL)
________LCEL을 이용한 간단한 워크플로
________복잡한 체인의 예
로컬 모델 실행
____Ollama 시작하기
____로컬에서 Hugging Face 모델 작업
____로컬 모델을 위한 팁
멀티모달 AI 애플리케이션
____텍스트-이미지 변환
________OpenAI를 통한 DALL-E 사용
________Stable Diffusion 사용
____이미지 이해
________Gemini 2.5 Pro 사용
________GPT-4 Vision 사용
요약
복습문제

3장. LangGraph로 워크플로 구축
LangGraph의 기본 원리
____상태 관리
____리듀서
____그래프 구성하기
____제어된 출력 생성
________출력 파싱
________오류 처리
프롬프트 엔지니어링
____프롬프트 템플릿
____제로샷과 퓨샷 프롬프팅
________프롬프트 연결
________동적 퓨샷 프롬프팅
____사고의 체인
____자기 일관성
제한된 컨텍스트 창으로 작업하기
____긴 동영상 요약
메모리 메커니즘의 이해
____채팅 기록 트리밍
____데이터베이스에 기록 저장하기
____LangGraph 체크포인트
요약
복습문제

4장. 지능형 RAG 시스템 구축
색인에서 지능형 검색까지
RAG 시스템의 컴포넌트
____RAG 도입 시기
임베딩에서 검색까지
____임베딩
____벡터 저장소
________벡터 저장소 비교
________벡터 저장소에 대한 하드웨어 고려사항
________LangChain의 벡터 저장소 인터페이스
____벡터 인덱싱 전략
RAG 파이프라인 분석
____문서 처리
________청킹 전략
________검색 시스템
____고급 RAG 기술
________하이브리드 검색: 시맨틱 검색과 키워드 검색의 조합
________리랭킹
________쿼리 변환: 더 나은 쿼리를 통한 검색 개선
________검색 결과 처리: 검색된 정보 가치 극대화
________응답 향상: 생성 출력 개선 기법
________수정 RAG
________에이전틱 RAG
________적절한 기술 선택하기
기업 문서 채팅봇 개발
____문서 로딩
____언어 모델 설정
____문서 검색 시스템
____상태 그래프 설계
____사용자 인터페이스를 위해 Streamlit과 통합
____평가 및 성능 고려사항
RAG 시스템 문제 해결
요약
복습문제

5장. 지능형 에이전트 구축
도구의 기본 개념
____LangChain의 도구
____REACT
도구의 정의
____내장된 LangChain 도구
____사용자 정의 도구
________파이썬 함수를 도구로 래핑하기
________실행 가능한 컴포넌트로부터 도구 생성하기
________Structured Tool 또는 BaseTool 서브클래스 생성
____오류 처리
고급 도구 호출 기능
워크플로에 도구 통합
____제어된 생성
________공급업체에서 제공하는 제어된 생성
____ToolNode
____도구 호출 패러다임
에이전트의 정의와 작동 원리
____계획 및 해결 에이전트
요약
복습문제

6장. 고급 애플리케이션 및 다중 에이전트 시스템
에이전틱 아키텍처
____에이전틱 RAG
다중 에이전트 아키텍처
____에이전트의 역할과 전문화
____합의 메커니즘
____통신 프로토콜
________시맨틱 라우터
________상호작용 구조화
____LangGraph 스트리밍
____핸드오프
________공유 메시지 목록을 통한 통신
____LangGraph 플랫폼
적응형 시스템 구축
____동적 행동 조정
____인간 참여
추론 경로 탐색
____ToT
____MCTS로 ToT 트리밍하기
에이전트 메모리
____캐시
____저장소
요약
복습문제

7장. 소프트웨어 개발 및 데이터 분석 에이전트
소프트웨어 개발에서의 LLM 활용
____개발의 미래
____구현 시 고려사항
____코드 LLM의 진화
____코드 LLM 벤치마크
____LLM 기반 소프트웨어 공학 접근
____보안 및 위험 관리 전략
____LLM 생성 코드 검증 프레임워크
____LangChain 통합
LLM을 사용한 코드 작성
____구글의 생성형 AI
____Hugging Face
____Anthropic
____에이전틱 접근법
____문서 RAG
____저장소 RAG
데이터 과학을 위한 LLM 에이전트 적용
____ML 모델 학습
________파이썬 실행이 가능한 에이전트 설정
________에이전트에게 신경망 구축 요청
________에이전트 실행 및 결과
____데이터셋 분석
________판다스 데이터프레임 에이전트 생성
________데이터셋에 대한 질문하기
요약
복습문제

8장. 평가와 테스트
평가의 중요성
____안전성과 정렬
____성능과 효율성
____사용자 및 이해관계자 가치
____LLM 평가를 위한 합의 구축
평가 대상: 핵심 에이전트 능력
____작업 수행 능력 평가
____도구 사용 능력 평가
____RAG 평가
____계획 및 추론 능력 평가
평가 방법: 방법론과 접근법
____자동화된 평가 접근법
____인간 참여 평가
____시스템 수준 평가
프로덕션 환경에서의 LLM 에이전트 평가
____결과의 정확성 평가
____톤과 간결성 평가
____출력 형식 평가
____에이전트 궤적 평가
____사고의 체인 추론 평가
오프라인 평가
____RAG 시스템 평가
____LangSmith에서 벤치마크 평가
____Hugging Face의 데이터셋과 Evaluate 라이브러리를 이용한 벤치마크 평가
____이메일 추출 평가
요약
복습문제

9장. 프로덕션 적용 가능한 LLM 배포 및 관찰 가능성
LLM 애플리케이션의 보안 고려사항
LLM 애플리케이션 배포
____FastAPI를 활용한 웹 프레임워크 배포
____Ray Serve로 확장 가능한 배포
________인덱스 구축
________인덱스 서빙
________애플리케이션 실행
____LangChain 애플리케이션 배포 시 고려사항
____LangGraph 플랫폼
________LangGraph CLI를 활용한 로컬 개발
____서버리스 배포 옵션
____UI 프레임워크
____MCP
____인프라 고려사항
________배포 모델 선택 가이드
________모델 서빙 인프라스트럭처
LLM 애플리케이션 관찰 방법
____LLM 애플리케이션 운영 지표
____응답 추적
____환각 감지
____편향 감지 및 모니터링
________LangSmith
____관찰 가능성 전략
____LLM 애플리케이션의 지속적 개선
LangChain 애플리케이션 비용 관리
____LangChain에서의 모델 선택 전략
________계층화된 모델
________캐스케이딩 모델
____출력 토큰 최적화
____그 밖의 전략
____비용 모니터링 및 분석
요약
복습문제

10장. 생성형 모델의 미래: 규모 확장을 넘어서
생성형 AI의 현주소
확장의 한계와 새로운 대안
____확장 가설에 대한 도전
____빅테크 대 소기업
____확장의 한계와 대안적 접근법의 부상
________규모 확장(기존 접근법)
________소형화(효율성 혁신)
________분산 처리(확장형 접근법)
____훈련 데이터 품질의 진화
____기술 발전을 통한 민주화
____사후 훈련 단계를 위한 새로운 확장 법칙
경제 및 산업의 변화
____산업별 변화와 경쟁 구도
____직업의 진화와 변화가 가져올 영향
________단기적 영향(2025~2035)
________중기적 영향(2035~2045)
________장기적 변화(2045년 이후)
____경제적 분배와 형평성 고려사항 508
사회적 영향
________허위 정보와 사이버 보안
________저작권 및 출처 표기 문제
________규제 및 실행 과제
요약

벤 아우파스 Ben Auffarth
15년 이상의 실무 경험을 갖춘 AI 구현 전문가다. 첼시 AI 벤처스(Chelsea AI Ventures)의 설립자로서 중소기업이 엔터프라이즈급 AI 솔루션을 구현해 실질적인 투자수익을 거두도록 돕는 데 주력하고 있다. 그가 구현한 시스템은 수백만 달러 규모의 사기 피해를 예방했으며, 트랜잭션을 0.3초 미만의 지연 시간으로 처리한다. 계산신경과학이라는 학문적 배경을 바탕으로 슈퍼컴퓨팅 뇌 모델 연구부터 기술력과 비즈니스 전략을 결합한 프로덕션 시스템 구축까지 두루 섭렵하여, 실용적인 AI 애플리케이션 분야에서 남다른 깊이의 전문성을 발휘하고 있다.