딥러닝 개념과 활용(양장본 Hardcover)

딥러닝을 이해하는데 꼭 필요한 핵심적인 구성요소를 책 한권에 모두 담았다!

저자는 2016년에 출판된 〈알고리즘으로 배우는 인공지능, 머신러닝, 딥러닝 입문〉이라는 책을 통해 인공지능이라는 기술적인 주제를 쉽게 풀어내어 다양한 독자들에게 전달해준 적이 있다.

이번에 출간된 〈딥러닝 개념과 활용〉은 저자가 국내외 연구소, 정부기관 그리고 기업을 대상으로 수행한 다양한 인공지능 프로젝트를 통해 축적된 경험을 바탕으로 딥러닝 공부에 꼭 필요한 이론들을 정리한 것이다.

이 책에서는 딥러닝 기술을 인공지능의 핵심이라고 정의하면서 지금까지 발표된 거의 모든 분야의 딥러닝 모델과 여기에 적용된 개념들을 자세히 설명하고 있다. 이론적으로 설명된 딥러닝 모델이 실제로 구현되는 과정을 확인해 볼 수 있게 텐서플로우와 파이토치를 사용한 예제 코드를 첨부하였다.

이 책에서 다루는 주요 내용은 다음과 같다.

① 인공지능, 머신러닝 딥러닝의 정의

② 머신러닝/딥러닝에서 꼭 알아야 할 핵심적인 용어와 개념 정리

③ 머신러닝과 딥러닝의 차이: 왜 딥러닝인가?

④ 데이터의 형태와 목표 과업에 따른 딥러닝 모델 설명: 다층 퍼셉트론, 컨볼루션 신경망, 순환신경망, 신경망 기반 강화학습, 생성모델 등

⑤ 딥러닝 모델 개발의 필요조건인 프레임워크 소개와 텐서플로우/파이토치 프레임워크를 이용한 딥러닝 모델 구현 예제

⑥ 생성모델 개념과 모델 구현 방법: 잠재변수의 개념, 오토인코더, RBM, PixelRNN/PixelCNN, VAE, GAN, DeepFake 등

⑦ 강화학습의 체계적인 이해

--- 강화학습 문제 정의: 에이전트와 환경 그리고 보상함수

---- On-policy와 Off-policy 방법의 차이

--- 가치기반과 정책기반 방법의 차이

--- 모델기반과 모델프리 방법의 차이

⑧ 최근 딥러닝 분야에서 떠오르는 주제인 메타학습, 전이학습, 도메인적응, VQA, NAS, AutoML 등에 사용된 기술들을 소개

01장 인공지능과 머신러닝

1.1 인공지능

-----1.1.1 지능

-----1.1.2 인공지능

-----1.1.3 '인공지능'이란 용어의 등장

-----1.1.4 인공지능 분야

1.2 머신러닝

-----1.2.1 인공지능을 떠받치는 머신러닝

-----1.2.2 머신러닝의 정의

-----1.2.3 머신러닝에서 자주 사용되는 핵심용어 정리

-----1.2.4 머신러닝의 분류

1.3 지도학습

-----1.3.1 지도학습: 예측, 회귀

-----1.3.2 지도학습: 분류

1.4 비지도학습

-----1.4.1 비지도학습: 군집

-----1.4.2 비지도학습: 차원축소

-----1.4.3 비지도학습: 생성모델

1.5 강화학습



02장 인공지능의 중심 딥러닝

2.1 딥러닝 개요

-----2.1.1 인공신경망

-----2.1.2 헵스 법칙: 신경망의 학습

-----2.1.3 최초의 딥러닝 모델: 퍼셉트론

2.2 단층 퍼셉트론

2.3 다층 퍼셉트론

-----2.3.1 단층 퍼셉트론의 한계

-----2.3.2 다층 퍼셉트론

2.4 에러의 역전파

-----2.4.1 에러의 역전파 이론의 배경

-----2.4.2 에러의 역전파 동작 개념

2.5 딥러닝

-----2.5.1 왜 딥러닝이 머신러닝의 핵심인가?

-----2.5.2 다양한 딥러닝 모델

2.6 딥러닝 프레임워크

-----2.6.1 다양한 딥러닝 프레임워크

-----2.6.2 파이토치 프레임워크를 이용한 딥러닝 모델 구현 방법

-----2.6.3 텐서플로우 프레임워크를 이용한 딥러닝 모델 구현 방법



03장 다양한 최적화 기법

3.1 경사하강법 개요

-----3.1.1 경사하강법 이해하기

-----3.1.2 경사하강법 적용 예제

-----3.1.3 딥러닝 프레임워크를 이용한 최적화

3.2 경사하강법 적용시 학습데이터 크기 결정

-----3.2.1 배치 경사하강법

-----3.2.2 확률적 경사하강법

-----3.2.3 미니배치 경사하강법

3.3 기본 경사하강법

3.4 관성을 이용한 경사하강법

-----3.4.1 모멘텀 경사하강법

-----3.4.2 NAG

3.5 적응형 경사하강법

-----3.5.1 AdaGrad

-----3.5.2 RMSprop

-----3.5.3 AdaDelta

3.6 혼합형 경사하강법

-----3.6.1 ADAM

-----3.6.2 NADAM

3.7 배치 정규화

3.8 파라메터 초기화



04장 오버피팅 해결방안 - 규제화

4.1 언더피팅, 노멀피팅, 오버피팅

4.2 L2 규제화

4.3 L1 규제화

4.4 드롭아웃과 드롭커넥트

-----4.4.1 드롭아웃

-----4.4.2 드롭커넥트

4.5 조기 종료



05장 벡터형 데이터 학습 모델 - MLP

5.1 벡터형 데이터 개요

-----5.1.1 학습 데이터 종류

-----5.1.2 벡터형 학습 데이터 정제하기

5.2 MLP를 이용한 벡터형 데이터 학습

-----5.2.1 MLP 모델

-----5.2.2 MLP 모델에서 행렬 및 텐서 연산

-----5.2.3 스코어와 분류기

-----5.2.4 MLP 모델을 이용한 MNIST 분류

5.3 활성화 함수

-----5.3.1 활성화 함수의 필요성

-----5.3.2 활성화 함수의 종류

-----5.3.2 좋은 활성화 함수란



06장 이미지 데이터 학습 모델 - CNN

6.1 이미지 데이터 분석

-----6.1.1 이미지 데이터 처리

-----6.1.2 컨볼루션 신경망의 시작

-----6.1.3 컨볼루션

-----6.1.4 풀링

-----6.1.5 평탄화

-----6.1.6 목적함수와 학습

6.2 CNN 모델의 발전

-----6.2.1 LeNet-5, AlexNet, VGGNet

-----6.2.2 GoogLeNet (Inception-V1)

-----6.2.3 ResNet

-----6.2.4 Xception

-----6.2.5 CNN 모델 비교

6.3 이미지 분류

-----6.3.1 이미지 분류를 위한 데이터셋

-----6.3.2 분류기와 목적함수

-----6.3.2 MNIST 필기체 숫자 분류 예제

6.4 이미지 객체 추출

-----6.4.1 SIFT

-----6.4.2 HOG

-----6.4.3 SURF

-----6.4.4 CNN 기반의 이미지 객체 추출

-----6.4.5 R-CNN, Fast R-CNN, Faster R-CNN, Mask R-CNN 알고리즘

-----6.4.6 YOLO 알고리즘

-----6.4.7 SSD 알고리즘

6.5 이미지 분할

-----6.5.1 이미지 분할을 위한 학습방법

-----6.5.2 FCN 알고리즘

-----6.5.3 U-Net 알고리즘

-----6.5.4 DeepLab V1, V2, V3, V3+ 알고리즘

6.6 학습 데이터 보완

-----6.6.1 학습 데이터 증강

-----6.6.2 가중치를 이용한 데이터 빈도수 조정



07장 순차적 데이터 학습 모델 - RNN

7.1 순차적인 데이터

-----7.1.1 스냅샷 데이터와 시퀀셜 데이터

-----7.1.2 순환신경망 활용 사례

7.2 순환신경망

-----7.2.1 순환신경망의 구조

-----7.2.2 기본 순환신경망에서의 연산

7.3 LSTM과 GRU

-----7.3.1 LSTM

-----7.3.2 GRU

7.4 학습 목적에 따른 신경망 구조

-----7.4.1 many-to-one 모델

-----7.4.2 one-to-many 모델

-----7.4.3 many-to-many 모델

-----7.4.4 many-to-many 모델: seq2seq

7.5 순환신경망에서의 역전파

-----7.5.1 BPTT: Back Propagation Through Time

-----7.5.2 TBPTT: Truncated Back Propagation Through Time

-----7.5.3 양방향 순환신경망

-----7.5.4 GRU를 이용한 독일 예나지역 기후예측 예제

7.6 언어모델

7.7 Sequence-to-Sequence 모델

7.8 Seq2Seq with Attention모델

7.9 트랜스포머

-----7.9.1 Positional Encoding

-----7.9.2 셀프 어텐션

-----7.9.3 멀티헤드 어텐션

7.10 GPT 모델과 BERT 모델

-----7.10.1 GPT 모델

-----7.10.2 BERT 모델



08장 신경망 기반 강화학습 - DRL

8.1 강화학습

-----8.1.1 강화학습 모델 구성요소

-----8.1.2 강화학습 문제 정의: MDP

8.2 가치기반 강화학습

-----8.2.1 동적 계획법

-----8.2.2 몬테카를로 방법

-----8.2.3 시간차 방법

8.3 정책기반 강화학습

-----8.3.1 REINFORCE 알고리즘

-----8.3.2 신뢰구간 정책 최적화 (TRPO)

-----8.3.3 근접 정책 최적화 (PPO)

-----8.3.4 액터-크리틱 방법 Actor-Critic Method: QAC, TD-AC, A2C, A3C, GAE

-----8.3.5 신경망 기반 결정적 정책 기울기 (DDPG)

8.4 모델기반 강화학습

-----8.4.1 정해진 전이모델 기반 명시적 계획법

-----8.4.2 학습된 전이모델 기반 명시적 계획법

-----8.4.3 전과정 계획 및 전이모델 동시 학습법



09장 감성을 지닌 컴퓨터 - 생성모델

9.1 창작을 하는 인공지능

-----9.1.1 크리스티 경매에서 팔린 인공지능이 그린 초상화

-----9.1.2 생성모델은 주관식

-----9.1.3 잠재변수

-----9.1.4 오토인코더

9.2 생성모델

-----9.2.1 제한된 볼츠만 머신

-----9.2.2 PixelRNN/PixelCNN

-----9.2.3 변분법을 이용한 오토인코더 (VAE)

-----9.2.4 생성적 대립 네트워크 (GAN)

-----9.2.5 가짜와의 전쟁: DeepFake



10장 AGI로 가는 길

10.1 특이점

-----10.1.1 선형 대 지수

-----10.1.2 일반 인공지능: AGI

10.2 AGI를 향한 도전

-----10.2.1 메타학습

-----10.2.2 전이학습

-----10.2.3 도메인 적응

-----10.2.4 NAS

-----10.2.5 AutoML

-----10.2.6 신경망 기반 추론 모델

-----10.2.7 자기지도학습

-----10.2.8 셀프 플레이

10.3 AGI로 가는 길

김의중 카네기멜론 대학교에서 최적화 분야 병렬 컴퓨팅 알고리즘으로 컴퓨터공학 박사학위를 받았다. 미국 국립과학재단 그랜드 챌린지 과제인 'Quake' 프로젝트에서 핵심 연구원으로 참여하면서 미국 캘리포니아 부근에서 발생한 지진을 슈퍼컴퓨터를 이용한 분석모델로 가장 정확하게 예측한 공로로 고든벨 어워드 Gordon Bell Awards를 수상하였다.
듀크 대학교에서 리서치 펠로우와 한국 IT 기업에서 수석연구원 및 CTO로 근무하다가 최근 실리콘밸리의 인공지능 업체와 공동으로 설립한 아이덴티파이 (aidentify) 대표를 맡고 있다.

저서: 알고리즘으로 배우는 인공지능, 머신러닝, 딥러닝 입문