실무로 통하는 LLM 애플리케이션 설계

LLM, 개념을 넘어 실무 애플리케이션으로!
한 권에 담은 AI 애플리케이션 설계의 시작과 끝

LLM은 이제 단순한 기술 트렌드를 넘어, 기업과 제품 혁신을 이끄는 핵심 기술이 되었습니다. 하지만 아이디어를 실제 서비스로 확장하는 길은 여전히 복잡하고 도전적입니다. 이 책은 이러한 간극을 메우기 위해 탄생했습니다. LLM의 기초 원리부터 최신 활용 패턴까지, LLM을 둘러싼 이론과 실무 노하우를 균형 있게 담아냈습니다.

이 책은 LLM을 이해하고, 활용하고, 제품으로 구현하는 전 과정을 차근차근 밟아갈 수 있도록 안내합니다. LLM의 작동 원리를 직관적으로 이해하고, 프롬프트 설계와 파인 튜닝, RAG, 에이전트 아키텍처 등 최신 활용 기법을 익히며 실제 제품 환경에서 마주하는 문제와 한계를 해결하는 방법을 배울 수 있습니다. 특히 각 장마다 풍부한 실습과 연습 문제를 수록해 단순한 이론 학습을 넘어 직접 실험하며 체득할 수 있도록 구성했습니다. 소프트웨어 엔지니어, 머신러닝 연구자, 제품 관리자 모두가 이 책을 통해 LLM의 복잡한 퍼즐을 하나하나 맞춰 나갈 수 있을 것입니다. AI 시대에 경쟁력을 확보하려는 실무자에게 이 책은 아이디어를 실제 프로덕션으로 이어 주는 가장 실용적인 다리가 될 것입니다.

주요 내용
● 훈련 데이터, 토큰화, 아키텍처, 정렬 훈련을 통한 LLM의 기본 원리
● 프롬프팅, 파인 튜닝, RAG, 에이전트 기반 활용 기법
● 임베딩 검색, 도메인 특화 챗봇, 랭체인 기반 애플리케이션 설계
● 80여 개의 연습 문제와 깃허브 예제 코드로 학습 효과 강화
● 추론 최적화, 프로덕션 아키텍처, 오픈 소스 LLM 비교 등 최신 동향 반영

대상 독자
● 프로덕션 수준의 LLM 서비스를 만들고 싶은 개발자
● 최신 LLM 응용 기법과 활용 패턴을 정리하고 싶은 연구자
● LLM 기술을 실제 서비스와 연결하고 싶은 제품 기획자
● LLM을 활용한 자동화, 지식 검색, 데이터 처리 솔루션을 모색하는 전문가

[PART 1 LLM의 구성 요소]

CHAPTER 1 LLM의 개념과 첫걸음
_1.1 LLM의 정의
_1.2 LLM의 간략한 역사
_1.3 LLM의 영향
_1.4 기업 내 LLM 활용
_1.5 프롬프팅
_1.6 API를 통한 LLM 접근 방법
_1.7 LLM의 강점과 한계
_1.8 첫 번째 챗봇 프로토타입 만들기
_1.9 프로토타입에서 제품화까지
_1.10 마치며

CHAPTER 2 사전 훈련 데이터
_2.1 LLM을 만드는 구성 요소
_2.2 사전 훈련 데이터 요구 사항
_2.3 대표적인 사전 훈련 데이터셋
_2.4 합성 사전 훈련 데이터
_2.5 훈련 데이터 전처리
_2.6 사전 훈련 데이터가 후속 작업에 미치는 영향
_2.7 사전 훈련 데이터셋의 편향과 공정성 문제
_2.8 마치며

CHAPTER 3 어휘와 토큰화
_3.1 어휘
_3.2 토크나이저
_3.3 토큰화 파이프라인
_3.4 마치며

CHAPTER 4 아키텍처와 학습 목표
_4.1 기본 개념
_4.2 의미 표현하기
_4.3 트랜스포머 아키텍처
_4.4 손실 함수
_4.5 내재적 모델 평가
_4.6 트랜스포머 백본
_4.7 학습 목표
_4.8 사전 훈련 모델
_4.9 마치며

[PART 2 LLM 활용하기]

CHAPTER 5 사용 목적에 맞게 LLM 활용하기
_5.1 LLM 생태계 탐색하기
_5.2 적합한 LLM을 선택하는 방법
_5.3 LLM 로딩 방법
_5.4 디코딩 전략
_5.5 LLM에서 추론 실행하기
_5.6 구조화된 출력
_5.7 모델 디버깅 및 해석 가능성
_5.8 마치며

CHAPTER 6 파인 튜닝
_6.1 파인 튜닝의 필요성
_6.2 파인 튜닝: 전체 예제
_6.3 파인 튜닝 데이터셋
_6.4 마치며

CHAPTER 7 고급 파인 튜닝 기법
_7.1 지속적 사전 훈련
_7.2 파라미터 효율적 파인 튜닝(PEFT)
_7.3 여러 모델 결합하기
_7.4 마치며

CHAPTER 8 정렬 훈련과 추론
_8.1 정렬 훈련의 정의
_8.2 강화 학습
_8.3 환각
_8.4 환각 완화 전략
_8.5 인컨텍스트 환각
_8.6 관련 없는 정보로 인한 환각
_8.7 추론
_8.8 LLM에서 추론 유도하기
_8.9 마치며

CHAPTER 9 추론 최적화
_9.1 LLM 추론의 도전 과제
_9.2 추론 최적화 기법
_9.3 연산량 감소 기법
_9.4 디코딩 가속화 기법
_9.5 저장 공간을 절약하는 기법
_9.6 마치며

[PART 3 LLM 애플리케이션 활용 패러다임]

CHAPTER 10 LLM과 외부 도구의 인터페이스
_10.1 LLM 상호작용 패러다임
_10.2 에이전트 정의
_10.3 에이전트 기반 워크플로
_10.4 에이전트 시스템 구성 요소
_10.5 마치며

CHAPTER 11 표현 학습과 임베딩
_11.1 임베딩 소개
_11.2 의미 검색
_11.3 유사도 측정법
_11.4 임베딩 모델 파인 튜닝
_11.5 지시 임베딩
_11.6 임베딩 크기 최적화
_11.7 청킹
_11.8 벡터 데이터베이스
_11.9 임베딩 해석하기
_11.10 마치며

CHAPTER 12 검색 증강 생성(RAG)
_12.1 RAG의 필요성
_12.2 대표적인 RAG 활용 시나리오
_12.3 검색 여부 판단하기
_12.4 RAG 파이프라인
_12.5 메모리 관리를 위한 RAG
_12.6 RAG로 인컨텍스트 학습 예시 선택하기
_12.7 모델 훈련에 RAG 활용하기
_12.8 RAG의 한계
_12.9 RAG 대 긴 컨텍스트
_12.10 RAG 대 파인 튜닝
_12.11 마치며

CHAPTER 13 디자인 패턴과 시스템 아키텍처
_13.1 다중 LLM 아키텍처
_13.2 프로그래밍 패러다임
_13.3 마치며

수하스 파이 (Suhas Pai)
10년 넘게 기술 업계에서 일해 온 숙련된 머신러닝 연구자입니다. 2020년부터 와이 콤비네이터(Y-Combinator)의 지원을 받는 AI 및 핀테크 스타트업인 허드슨 랩스(Hudson Labs)의 공동 창립자이자 CTO, ML 연구 책임자로 일하고 있습니다.
허드슨 랩스에서는 도메인 특화 LLM, 텍스트 랭킹, 표현 학습 분야에서 여러 혁신적인 기법을 개발했으며, 이 기법들은 허드슨 랩스 제품의 핵심 기능을 실현하는 기반이 되었습니다. 또한 오픈 소스 LLM 개발에도 활발히 참여해 왔으며, BLOOM LLM 프로젝트의 일환인 빅 사이언스(Big Science) 프로젝트에서 프라이버시 워킹 그룹의 공동 리더로 활동했습니다.
2021년부터는 토론토 머신러닝 서밋(TMLS) 콘퍼런스의 의장으로 활동 중이며 전 세계 AI 콘퍼런스에서 연사로 자주 참여합니다. NLP 분야의 최신 연구를 논의하는 정기 세미나도 직접 주최합니다.