LLM을 위한 프롬프트 엔지니어링(반양장)

깃허브 코파일럿을 만든 이들이 말하는 LLM 설계의 기준
이 책은 프롬프트를 '예쁘게' 다듬는 요령을 모은 안내서가 아니다. 한두 줄의 문장으로 모델을 요령껏 다루는 방법을 기대한다면 이 책은 전혀 다른 이야기를 한다. 저자들은 LLM을 단순히 '어떻게' 쓸 것인가보다 어떤 관점으로 이해하고 어떤 구조 안에서 다뤄야 하는지를 먼저 묻는다. 콘텍스트를 수집하고 정리하는 법부터 프롬프트를 쌓아 올리는 구조, 그리고 가드레일과 평가를 통해 AI의 출력을 통제하는 법까지 실무에서 마주하는 핵심 문제들을 정면으로 다룬다. 이 논의는 자연스럽게 에이전트와 워크플로 설계라는 더 큰 시스템의 영역으로 확장된다.

그 단단한 논리의 출발점에는 깃허브 코파일럿 개발에 참여하고 실제 제품 환경에서 운영한 저자들의 독보적인 경험이 있다. 그래서 이 책은 단순한 기법 나열에 그치지 않는다. 대신 '왜 이런 설계가 필요한가', '이 방식은 언제 깨지는가'라는 날카로운 현장의 질문들을 중심으로 이야기를 전개한다. LLM을 '텍스트 완성 엔진'으로 재정의하는 냉철한 시선에서 시작해 모델이 바뀌어도 결국 남는 것은 '마법 같은 문장'이 아니라 '설계'라는 점을 일관되게 보여준다.

코파일럿을 직접 만든 경험에서 우러나온 이 책은 프롬프트를 단순한 입력값이 아닌 설계의 언어로 다룬다. LLM을 일회성 실험이 아니라 안정적인 시스템으로 구축하고 싶은 이들에게 이 책은 흔들리지 않는 분명한 기준점이 되어줄 것이다.

주요 내용
●LLM의 구조와 작동 원리 이해하기
●애플리케이션을 위한 프롬프트 전략 설계하기
●맥락 요소를 수집 및 분류, 제시해 효율적 프롬프트 만들기
●퓨샷, CoT, RAG 등 핵심 기법 익히기
●대화형 워크플로를 설계하고 실무에 적용하기
●성과를 평가하고 활용 전략 검증하기

옮긴이 머리말 ix
베타리더 후기 x
시작하며 xii
감사의 글 xv
표지에 대하여 xvi

PART I 기본 원리
CHAPTER 1 프롬프트 엔지니어링 소개 3
1.1 LLM은 마법이다 4
1.2 언어 모델: 어쩌다 우리가 여기까지 왔지? 7
1.3 프롬프트 엔지니어링 14
1.4 요약 16

CHAPTER 2 LLM의 이해 18
2.1 LLM은 무엇인가? 19
2.2 LLM이 세상을 보는 방법 26
2.3 한 번에 토큰 한 개 33
2.4 온도와 확률 37
2.5 트랜스포머 아키텍처 41
2.6 요약 47

CHAPTER 3 대화형으로 넘어가기 48
3.1 인간 피드백을 통한 강화학습 50
3.2 지시형에서 대화형으로 56
3.3 지금도 변하고 있는 API 61
3.4 극본 작성으로서의 프롬프트 엔지니어링 67
3.5 요약 69

CHAPTER 4 LLM 애플리케이션 설계하기 71
4.1 루프 구조 71
4.2 순전파 확대해보기 82
4.3 LLM 애플리케이션 품질 평가 89
4.4 요약 91

PART II 핵심 기술
CHAPTER 5 프롬프트 내용 95
5.1 콘텐츠 출처 97
5.2 정적 콘텐츠 98
5.3 동적 콘텐츠 110
5.4 요약 134

CHAPTER 6 프롬프트 구성하기 135
6.1 이상적인 프롬프트 구조 135
6.2 어떤 종류의 문서인가? 139
6.3 스니펫 형식 지정하기 150
6.4 탄력적 스니펫 153
6.5 프롬프트 요소 간 관계 155
6.6 최종 프롬프트 구성 157
6.7 요약 161

CHAPTER 7 모델 제어 162
7.1 모델 제어 162
7.2 텍스트를 넘어서: 로그 확률 168
7.3 모델 선택 175
7.4 요약 182

PART III 전문가 역량
CHAPTER 8 대화형 에이전시 187
8.1 도구 활용 188
8.2 추론 201
8.3 작업 기반 상호작용을 위한 콘텍스트 208
8.4 대화형 에이전트 구축 213
8.5 요약 219

CHAPTER 9 LLM 워크플로 221
9.1 대화형 에이전트로 충분할까? 223
9.2 기본 LLM 워크플로 226
9.3 고급 LLM 워크플로 242
9.4 요약 246

CHAPTER 10 LLM 애플리케이션 평가 247
10.1 LLM 애플리케이션 평가 248
10.2 오프라인 평가 249
10.3 온라인 평가 265
10.4 요약 269

CHAPTER 11 미래를 전망하며 270
11.1 다중 모달 처리 271
11.2 요약 277

찾아보기 279

존 베리먼 Arcturus Labs의 창립자이자 수석 컨설턴트로, LLM 애플리케이션 개발을 전문으로 한다. 기업들이 첨단 AI 기술을 효과적으로 활용할 수 있도록 돕고 있으며, 깃허브 코파일럿의 초기 엔지니어로 참여해 자동 완성과 대화 기능 개발에 기여하며 AI 기반 코딩 도구의 최전선에서 활동했다. 그 이전에 는 검색 엔지니어로 경력을 쌓으며 미국 특허청의 차세대 검색 시스템 개발, Eventbrite의 검색 및 추천 기능 구축, 깃허브 코드 검색 인프라 개발에 참여했다. 저서로는 《Relevant Search》가 있다.