AI 에이전트 개발과 운영 올인원 가이드

만드는 AI에서 운영하는 AI로
실전까지 이어지는 에이전트 개발 기초를 확실하게 익힐 수 있는 책
AI 에이전트 기술은 나날이 진화하며, PoC를 넘어 실제 서비스로 확장되는 단계에 들어섰다. 이제는 에이전트를 사용하거나 만들어보는 것에서 한 걸음 더 나아가, 운영과 평가까지 고려한 에이전틱 AI 시스템을 구축하는 것이 경쟁의 핵심으로 부상하고 있다. 코딩 비용이 낮아진 오늘날에는 '잘 만드는 것'보다 '잘 운영하는 것'이 훨씬 더 중요하다.

이 책은 거시적인 구조를 의식하며 AI 에이전트를 설계하는 방법을 다룬다는 점에서 특별하다. 단편적인 기능 매뉴얼 대신 전체 시스템의 흐름 안에서 LangGraph 기반 에이전트 설계 방법을 알려주며, 개발 이후 프로덕션 운영 단계에 대해서도 많은 분량을 할애해 설명한다. 기업 환경을 고려해 Amazon Bedrock을 적극 활용하므로, PoC 수준의 에이전트를 수십 개 구현해 보고 끝나는 것보다 훨씬 의미 있는 구성이다.

에이전트 기반 서비스를 구축하고 운영해 온 저자들은 LLM, RAG 등 기초 지식도 소홀히 다루지 않고 차근차근 설명한다. 실제 활용 사례 및 13개 실습 프로젝트와 함께, LangGraph 워크플로, 멀티 에이전트, human-in-the-loop 등 에이전트 구현 방법을 자세히 다루고, 책 후반부에서는 Langfuse 기반 LLMOps와 트레이싱, 평가, 지속적 개선 등 운영 단계를 설명한다.

AI 에이전트가 어떻게 작동하는지 근본을 이해할 수 있게 쉽게 쓰였고, 동시에 현장에서 바로 활용할 수 있을 만큼의 실전성 역시 갖춘 보기 드문 입문서다. 이에 일본에서는 아마존 등 주요 서점에서 베스트셀러 1위를 기록했고, 쇼에이샤 2025 IT 엔지니어 도서상 기술서 부문 BEST 10에 선정되기도 했다. 원서 출간 당시 예제 코드는 Claude 3.7 기준으로 작성되었지만, 번역서는 4.6으로 업데이트했다.

주요 내용
■ 프레임워크와 도구, 프롬프트 관리 등 AI 에이전트 개발의 핵심 과정
■ 추론형 에이전트, MCP, 멀티 에이전트 등 13개 실습 프로젝트
■ 트레이싱, 평가, 개선 등 운영 단계까지 다루는 LLMOps
■ LangGraph 기반 워크플로 설계와 AWS 클라우드 환경 구축

옮긴이 머리말 x
들어가며 xi
감사의 글 xiv

CHAPTER 1 | LLM과 AI 에이전트 기본 1
1.1 생성형 AI 기본 3
1.2 AI 에이전트 기본 6
1.3 AI 에이전트를 지탱하는 기술 11
1.4 유명한 AI 에이전트 도구 17
1.5 AI 에이전트 활용 사례 20

CHAPTER 2 | LLM API 사용하기 23
2.1 AWS의 생성형 AI 서비스 소개 25
2.2 [핸즈온] LLM API 사용하기 30

CHAPTER 3 | AI 에이전트 개발 도구 소개 43
3.1 LLM 애플리케이션 개발 프레임워크 45
3.2 AI 에이전트 개발 프레임워크 50
3.3 플랫폼 65
3.4 편리한 UI 개발 도구 70
3.5 [핸즈온] Strands Agents를 사용해 간단한 AI 에이전트 만들기 75

CHAPTER 4 | LangGraph를 사용해 AI 에이전트 만들기 91
4.1 LangGraph란? 93
4.2 [핸즈온] LangGraph를 이용해 AI 에이전트 구축하기 108
4.3 [핸즈온] MCP를 이용해 AI 에이전트 구축하기 121
4.4 Functional API를 이용한 AI 에이전트 130
4.5 [핸즈온] 사람과 대화하는 에이전트 만들기 135

CHAPTER 5 | Mastra를 사용한 풀스택 AI 에이전트 만들기 157
5.1 Mastra 기본 159
5.2 [핸즈온] Mastra를 사용해 워크플로 만들기 168
5.3 [핸즈온] Next.js와 연동해 웹 애플리케이션 만들기 203
5.4 [핸즈온] 구현한 애플리케이션을 AWS에 배포하기 233

CHAPTER 6 | AI 에이전트 개발 응용 도전하기 255
6.1 AI 에이전트 개발 시 발생하는 문제들 257
6.2 에이전틱 워크플로 259
6.3 멀티 에이전트 시스템 264
6.4 앰비언트 에이전트 274
6.5 [핸즈온] Strands로 멀티 에이전트를 구축하고 AgentCore에 배포하기 277

CHAPTER 7 | Langfuse를 사용해 LLMOps에 도전하기 307
7.1 LLMOps란? 309
7.2 [핸즈온] AI 에이전트 트레이싱하기 320
7.3 프롬프트 관리 339
7.4 [핸즈온] 프롬프트 관리하기 343

CHAPTER 8 | AI 에이전트의 안전성과 LLM-as-a-Judge를 사용한 평가 355
8.1 AI 에이전트의 안전성과 보안 357
8.2 [핸즈온] Amazon Bedrock Guardrails를 사용한 입력 모니터링 362
8.3 AI 에이전트 평가 382
8.4 [핸즈온] LLM 애플리케이션 평가 391
8.5 AI 에이전트의 지속적 개선 408

부록 | 411
부록 1 AWS 환경 준비 413
부록 2 깃허브 환경 준비 421
부록 3 SaaS 계정 준비 426

마치며 433
찾아보기 437

온다 미노루 御田 稔
KDDI 애자일 개발 센터의 테크 에반젤리스트. 클라우드 및 AI 중심으로 개발, 프리세일즈, 기술 컨설팅에 참여하면서, 그 과정에서 얻은 지식과 사내의 우수한 엔지니어를 사외에 열심히 소개하고 있다. AWS Community Hero, AWS Samurai 2023/2024, Qiita 2024 Top Contributor로 선정되었다.