돈 되는 AI, 어디서부터 무엇을 어떻게 해야 할까

★ AI 무지를 벗어나는 자만이 묻지마 투자의 함정을 피할 수 있다!
★ 보여주기식 프로젝트가 아닌, 진짜 '돈 되는 AI' 도입의 종합 내비게이션!

ChatGPT 이후 전 세계는 AGI(범용 인공지능) 시대로 접어들고 있다. 그러나 많은 기업이 AI를 도입하면서도 괄목할 만한 성과를 내지 못하고 있는 실정이다. 시스템은 도입했지만 현업과 연결되지 못하거나, 경영진의 이해 부족으로 실행 단계에서 좌초되는 경우가 비일비재하다. 저자는 그 원인을 'AI를 기술로만 보는 시각'에서 찾는다. 기업의 AI 수준은 결국 CEO의 이해 수준을 넘을 수 없으며, AI 프로젝트의 90%는 첫 문제 정의 단계에서부터 실패하는 경우가 많다는 것이다.
이 책은 단순히 AI 기술을 소개하는 입문서에 머무르지 않고, '어떻게 하면 AI를 기업 전략과 연결할 것인가'라는 본질적인 질문에 대한 해답을 내놓는다. 무조건 AI 도입부터 하는 것보다 중요한 건 이를 어떻게 전략적으로 활용하느냐이다. 제대로 준비된 기업만이 AI로 새로운 기회를 창출하고, 준비되지 못한 기업은 시장에서 곧 사라지는 시대이다. 이 책은 그 중요한 기로에 선 기업과 CEO들에게 AI 도입의 정확한 나침반이 되어 줄 것이다.

▶ '돈 되는 AI'를 위한 문제 정의 방법 4단계
- 1단계: 문제를'좁고 예리하게 정의했는가?
- 2단계: 데이터와 연관된 문제인가?
- 3단계: AI로 풀 수 있는 유형인가?
- 4단계: 그래서 돈이 되는가?

▶ '돈 되는 AI' 도입을 위한 ABCD 방법론
- 1단계: 분석 및 기회 발굴(Analysis)
- 2단계: 문제 정의 및 설계(Blueprint)
- 3단계: 구현 및 실행(Create)
- 4단계: 성과 평가 및 발전(Develop)

▶ AI 에이전트 구현을 위한 주요 개발 도구 소개
- 에이전트 패키지: 랭체인, 랭그래프, 오픈AI Agents SDK, CrewAI
- 바이브 코딩: 커서, 클로드 코드, 제미나이 CLI
- 노코드: 마이크로소프트 코파일럿 스튜디오, 구글 에이전트 빌더, AWS 베드락 에이전트 코어, n8n, 디파이, 어시웍스

▶ AI 도입을 위한 다양한 아키텍처
- A타입: 클로즈드 소스 LLM
- A-1타입: 오픈AI의 Assistant API 사용
- B타입: 오픈 소스 LLM 사용
- B-1타입: 오픈 소스 LLM + 클라우드 사용
- C타입: A타입 + B타입 하이브리드
- D타입: 오픈AI의 기업형 ChatGPT
- D-1타입: 오픈AI의 Team with GPTs

▶ 이 책이 필요한 독자
- AI를 기업 경영에 적용하고자 하는 CEO 및 임원
- 각종 AI 도입 전략을 구상하는 기획자 및 기업 컨설턴트
- AI 기술로 업무 혁신을 이루고 실제 비즈니스와 연결하고자 하는 실무자
- AI 혁신을 통해 미래 경쟁력을 확보하려는 기업인
- AGI 시대의 비즈니스 방향을 고민하는 모든 사람

프롤로그
Chapter 01 기업이 AI 도입에 실패하는 이유
AI를 안 쓴다고 당장 망하지 않는다는 생각은 결국 실패한다
__AI 도입 실패의 주요 원인들
__[문제 해결 방안] 직원들이 왜 AI를 안 쓰는지부터 파악하라!
고립된 AI 조직으로 인해 실패한다
__AI 도입을 위한 9단계 업무 프로세스
__AI 도입을 위한 9단계 업무 프로세스의 단계별 역할
__AI 도입을 위한 9단계 업무 프로세스에서 알 수 있는 인사이트
__고립된 AI 조직의 문제점
__[문제 해결 방안] 개방된 AI 조직과 전사적인 협업만이 살길이다!
AI에 대한 생각이 서로 달라서 AI 프로젝트가 실패한다
__AI 프로젝트가 산으로 가는 이유
__[문제 해결 방안] 경영진은 실무자보다 AI 공부를 더 많이 해야 한다!
외부에서 영입한 AI 전문가에게 모든 것을 맡기면 실패한다
__외부 전문가 영입 전략의 함정
__내부 인재 육성의 전략적 가치
__[문제 해결 방안] 내부 인력을 중심으로 외부 전문가는 소수 채용한다!
실패 체크 리스트와 해결 방안
__전략 및 타이밍의 부재
__조직 문화 및 인식의 문제
__기술 및 도입 방식의 오해
__[CEO를 위한 비즈니스 인사이트] 6시그마 운동을 기억하십니까?

Chapter 02 돈 되는 AI 도입과 활용법
돈 되는 AI를 위한 문제 정의 방법
__문제 해결이 아닌 문제 정의부터: 4단계 필터링 가이드
__1단계: 문제를 좁고 예리하게 정의했는가?
__2단계: 데이터와 연관된 문제인가?
__3단계: AI로 풀 수 있는 유형인가?
__4단계: 그래서 돈이 되는가?(ROI 산출)
돈 되는 AI 분야를 선택하는 다섯 가지 원칙
__원칙1: 거창한 분야가 아닌 좁고 예리한 분야에 집중하라
__원칙2: 데이터가 아닌 비즈니스 목적에서 출발하라
__원칙3: 완벽히 새로운 것보다는 검증된 성공을 활용하라
__원칙4: AI를 특수 기술이 아닌 엑셀처럼 생각하라
__원칙5: 기존 시스템을 대체하거나 강화하는 곳을 공략하라
돈 되는 AI 프로젝트를 추진하는 방법
__AI 전문가 영입
__AI 프로젝트 외주
__하이브리드 모형: 전문가 영입 + AI 프로젝트 위주
__내부 직원 교육 후 자체 구현
돈 되는 AI 업무 4단계 로드맵: HR을 중심으로
__1단계: 업무 자동화로 반복 업무 줄이기
__2단계: 예측하여 미래 내다보기
__3단계: 시뮬레이션으로 다양한 '만약'의 결과 검토하기
__4단계: 업무 최적화로 최상의 해답 찾기
__[사례1] 최적화를 위한 아이디어 찾기: 세일즈포스닷컴
__[사례2] 최적화를 위한 아이디어 찾기: 팔란티어
돈 되는 AI 도입을 위한 ABCD 방법론
__ABCD 방법론이란
__ABCD 방법론은 왜 필요한가
__1단계: 분석 및 기회 발굴(Analysis)
__2단계: 문제 정의 및 설계(Blueprint)
__3단계: 구현 및 실행(Create)
__4단계: 성과 평가 및 발전(Develop)

Chapter 03 AI 이해를 통한 비즈니스 인사이트
AI를 이해하기 전에 알아두어야 할 세 가지
최소한의 AI 역사
__AI 겨울의 근본 원인
__[CEO를 위한 비즈니스 인사이트] 왜 AI 전문가들의 과도한 약속을 믿고 막대한 연구비를 지불했을까
인공지능의 학습과 추론
__학습: 최적의 공식을 찾아내는 고된 과정
__추론: 공식을 사용하여 답을 계산하는 과정
__[CEO를 위한 비즈니스 인사이트] 학습과 추론
컴퓨터는 어떻게 인간의 언어를 이해하게 되었는가
__벡터 혁명 이야기
__임베딩 과정
__[CEO를 위한 비즈니스 인사이트] 우리 기업에서 벡터화할 수 있는 자산에는 무엇이 있는가
LLM 시대를 연 혁명적 모델: 트랜스포머
__RNN
__LSTM
__트랜스포머의 등장
__트랜스포머의 아키텍처
__오픈AI는 왜 디코더만으로 GPT를 만들었을까?
AI를 더 똑똑하게 만드는 방법: 제1의 스케일링 법칙
__트랜스포머의 분화: 디코더 계열, 인코더 계열, 디코더-인코더 계열
__LLM 스케일링 법칙의 탄생
__프롬프트 엔지니어링의 시작
__[CEO를 위한 비즈니스 인사이트] 더 큰 모델, 더 많은 데이터, 더 많은 GPU 필요, 즉 쩐의 전쟁
GPT-3를 만들고 보니
__똑똑한 추론 능력
__상식이 없는 GPT-3의 답변
AI를 더 똑똑하게 만드는 방법: 제2의 스케일링 법칙
__GPT-3 이후 오픈AI의 고민
__[CEO를 위한 비즈니스 인사이트] 실패의 연속, 대화형 AI 서비스 비즈니스
__ChatGPT의 탄생을 위한 준비: 세계 최초 대화형 AI 서비스
__드디어 ChatGPT를 출시하다
__제2의 스케일링 법칙: RLHF
__[CEO를 위한 비즈니스 인사이트] 세상의 모든 지식을 보유한 AI vs 사용자가 원하는 답을 주는 AI
AI를 더 똑똑하게 만드는 방법: 제3의 스케일링 법칙
__테스트-시간 계산
__깊은 사고의 시작, O1의 출현
__현대 AI의 3단계 패러다임: 학습, 추론, 그리고 사고
딥시크의 등장
__딥시크에 관한 세 가지 핵심 질문
__딥시크의 두 번째 충격
__딥시크의 완전한 공개가 가져온 파급 효과
__ 딥시크가 준 영향
__젠슨 황의 테스트 타임 스케일링 법칙 발표가 주는 의미
__왜 얀 르쿤은 현재의 LLM으로 AGI를 달성할 수 없다고 하는가?
__[CEO를 위한 비즈니스 인사이트] 테스트 타임 스케일링 법칙이 한국 AI칩 벤처에 던지는 의미

Chapter 04 AI 시대의 시스템 사고
시스템1 사고: 빠른 직관
__시스템1 사고의 특성
시스템2 사고: 신중한 논리와 분석
__시스템2 사고의 특성
__대니얼 카너먼의 생각과 이론의 영향력
시스템1 사고는 AI의 추론 모델, 시스템2 사고는 AI의 사고 모델
__시스템1, 시스템2 사고와 AI 모델의 매핑
__시스템2 사고의 한계와 AI 사고 모델의 잠재력
__기업 환경에서 AI가 시스템2 사고를 대체할 때 벌어질 일들
__[문제 해결 방안: 기업 측면] 직원은 Ai 도구의 노예가 아닌, 도구의 지휘자가 되어야 한다
__[문제 해결 방안: CEO 측면] CEO는 조직 전체의 사고력을 앞장서서 이끌어야 한다
__[CEO를 위한 비즈니스 인사이트] AI 시대 고부가가치 업무란 무엇인가

Chapter 05 기업이 선택한 AI 활용 방법, RAG
기업이 RAG를 활용해야 하는 이유
__RAG란
__RAG의 장점
기업의 RAG 프로세스
__데이터 준비 과정: AI의 지식 창고(벡터DB) 구축하기
__질의 응답 파이프라인: 지능적으로 답변 생성하기
RAG에서 오픈 소스 LLM과 클로즈드 소스 LLM의 비교
__오픈 소스 LLM의 사용 방법
__오픈 소스 LLM vs 클로즈드 소스 LLM 기반 RAG 구현 비교 분석
RAG에서 고려해야 할 점
__임베딩 모델의 신중한 선택과 관리
__문서 처리의 복잡성
__검색의 정확도를 높이는 심화 기술
__지능형 RAG 구축
Ragas란 무엇인가?
__Ragas의 핵심 평가 지표
__검증 프로세스
__결과 분석 및 개선
RAG의 주요 활용 방안
__산업별 활용 방안
__RAG의 업무별 활용 방안

Chapter 06 AI 에이전트
AI 에이전트란?
__일반 프로그램과 AI 에이전트의 차이
__AI 에이전트의 구조
__AI 에이전트의 장점과 한계
AI 에이전트를 구현하는 방법
__AI 에이전트 구현을 위한 주요 개발 도구 종류
__기업에서 개발 도구 선택이 왜 중요한가?
에이전트 패키지
__랭체인: AI 에이전트 개발의 표준 프레임워크
__랭그래프: 복잡한 AI 에이전트를 위한 플로우 엔지니어링
__오픈 딥 리서치
__오픈AI Agents SDK
__CrewAI: 협업ㅎㄹ라는 에이전트 세계
바이브 코딩
__커서: 비주얼 스튜디오 코드 기반의 대표적인 바이브 코딩 도구
__클로드 코드: 앤트로픽의 코딩 전문 AI
__제미나이 CLI: 구글 AI 기반의 커맨드라인 도우미
노코드 도구
__마이크로소프트 코파일럿 스튜디오: AI 챗봇과 에이전트를 만드는 데 최적화
__구글 에이전트 빌더: 데이터 검색 기반 AI 에이전트 개발 플랫폼
__AWS 베드락 에이전트 코어: 7개 모듈로 구성된 종합 AI 에이전트 플랫폼
__n8n: 1000개 이상 앱을 연결하는 노코드 워크플로 자동화 도구
__디파이: LLM 기반 애플리케이션 개발을 위한 올인원 노코드 플랫폼
__어시웍스: 한국 기업 실무에 특화된 노코드 AI 에이전트 플랫폼
기존 시스템과의 AI 에이전트 통합
__단순 정보 조회: AI 단독으로도 가능한 영역
__최적화: 시스템 통합 없이는 불가능한 영역
__왜 통합이 최적화의 핵심인가
__AI 에이전트 통합으로 얻는 혁신적인 이득
AI 에이전트 vs 에이전틱 AI
__AI 에이전트와 에이전틱 AI의 개념 비교
__에이전틱 AI의 사례
__에이전틱 AI의 오케스트레이션 기능
__Skywork와 Genspark의 비교
__오픈AI의 ChatGPT 에이전트
AI 에이전트의 문제점
__AI 에이전트의 주요 문제점들
__AI 에이전트의 문제점을 해결하는 방안들
AI 에이전트 시대의 앱 스토어, MCP
__MCP 서버와 연동된 AI 에이전트의 작동 방식
__MCP 서버와 smithery.ai
__MCP의 아키텍처
__MCP의 핵심 가치
__MCP의 단점
__MCP 서버 추천
AI 에이전트의 활용 방안
__AI 에이전트의 산업별 활용 방안
__AI 에이전트의 업무별 활용 방안

Chapter 07 기업에서 AI를 도입하는 다양한 방안
국내 기업의 망분리 현황
__망분리 의무 대상 상세 분석
__망분리가 기업의 AI 활용에 어떤 제약을 주는가
데이터 보안과 아키텍처의 선택
__데이터 보안: 데이터를 지키는 방법(How)
__데이터 프라이버시: 데이터를 다루는 규칙(What & Why)
__전략적 절충과 하이브리드의 필요성

AI 도입을 위한 다양한 아키텍처
__A타입: 클로즈드 소스 LLM
__A-1타입: 오픈AI의 Assistant API 사용
__B타입: 오픈 소스 LLM 사용
__B-1타입: 오픈 소스 LLM + 클라우드 사용
__C타입: A타입 + B타입 하이브리드
__D타입: 오픈AI의 기업형 ChatGPT
__D-1타입: 오픈AI의 Team with GPTs

에필로그

장동인 서울대학교 공과대학 원자핵공학과 졸업 후 미국 남가주대학교에서 컴퓨터공학 석사를 마쳤으며, 서울과학종합대학원에서 경영학 박사를 취득했다. 미국 비자카드, EDS, 아메리칸 항공, 독일 아마데우스(Amadeus), 오라클 본사에서 근무했다. 1996년 귀국하여 한국오라클 컨설팅본부 이사, 시벨코리아 지사장, SAS코리아 부사장, 딜로이트 컨설팅 파트너, 언스트앤영 컨설팅 본부장, 미래읽기컨설팅 대표 컨설턴트, 한국 테라데이터 부사장, 국방과학연구소 빅데이터 PM으로 수백 개 기업의 경영 및 IT 컨설팅을 담당했다. 빅데이터와 AI 분야 전문가로 국내 대기업 및 공공 기관, 각종 콘퍼런스에서 강의하며 다양한 매체에 기고 활동을 하고 있다. 현재 AIBB LAB 대표 및 빅데이터전문가협의회 의장으로 활동하고 있으며, KAIST 김재철 AI대학원 CAIO(Chief AI Officer) 과정 책임교수로 임하고 있다.
기업 CEO가 코딩을 할 수 있어야 AI에 대한 근본적인 이해를 할 수 있고, 그래야 기업과 조직이 산다는 신념을 가지고 한국 최초로 'CEO를 위한 AI 코딩 강의'를 6년째 해오고 있다.

대표 저서
《실무자를 위한 데이터웨어하우스》 대청, 1999
《공피고아》 쌤앤파커스, 2010
《빅데이터로 일하는 기술》 한빛미디어, 2014
《IT 전문가로 사는 법》 한빛미디어, 2016
《AI로 일하는 기술》 한빛미디어, 2022
《챗GPT시대 기업이 살아남는 법》 리코멘드, 2023