Must Have 텐초의 파이토치 딥러닝 특강

★ 이 책으로 파이토치 딥러닝을 익혀야 하는 이유
이 책은 독자 여러분이 파이토치 딥러닝을 효과적으로 배울 수 있게 파이토치 딥러닝 개념, 파이 토치 코딩, 실전 노하우에 집중합니다. 또한 학습 마무리 단계에 자연스럽게 복습되게 만들었습니다.

딥러닝 개념은 수학과 떼려야 뗄 수 없습니다. 하지만 너무 어려운 수식을 사용하면 이해하는 데 오히려 방해됩니다. 그래서 고등학교 수학 지식만 있다면 누구나 쉽게 이해할 수 있는 수식에 그림을 곁들여 단계적으로 개념을 설명했습니다.

파이토치는 클래스 기반으로 신경망, 학습 순서를 정의하고 학습합니다. 그래서 파이토치에서 권고하는 코딩 구조를 먼저 알려드리고 나서 본격적인 학습에 들어갑니다. 기초 신경망인 CNN부터 스스로 창작하는 GAN까지 총 16가지 신경망을 만들 때는 먼저 신경망의 〈기본 블록〉과 〈학습 루프〉를 그림으로 제시합니다. 제시된 〈기본 블록〉과 〈학습 루프〉를 눈으로 보고 코드로 구현하면 되기 때문에 이해하기가 훨씬 쉽니다.

신경망을 만들 때는 〈기본 블록〉을 적당한 반복을 하는데 '적당한'은 주로 협업을 진행해본 사람만 아는 노하우입니다. 적당한 손실 함수를 선택하거나, 적당한 평가 방법을 고를 때도 마찬가지입니다. 이 책은 그저 코드를 따라 치는 게 아니라 어떤 관점에서 문제를 풀어나가야 하는지 실전 경험을 바탕으로 설명해 여러분이 실전에서 '적당한'을 알맞게 선택할 수 있게 돕습니다. 참고로 독자의 시간을 아낄 수 있도록 소스 코드뿐만 아니라 학습이 끝난 모델 파일 또한 코랩으로 제공합니다. 따라서 고성능 컴퓨터가 없어도 예제를 체험할 수 있습니다.

학습 마무리에서는 전체 과정을 되짚어 보여주고, 스스로 익힌 바를 확인할 수 있게 연습 문제를 제공합니다. 이런 식으로 16가지 신경망을 모두 학습하고 나면, 딥러닝 알고리즘에 대한 이해뿐만 아니라, 파이토치 코딩에 대한 지식과 실무 노하우도 얻을 수 있게 될 겁니다. 학습에 도움이 되길 빕니다.

★ 왜 파이토치 프레임워크를 사용해야 할까요?
paperswithcode.com에 따르면 2022년 3월 현재 파이토치는 전 세계 논문에서 가장 많이 사용하는 딥러닝 프레임워크입니다. 파이토치는 페이스북, 마이크로소프트 같은 대형 회사부터 대학 연구실까지 많은 사람이 이용합니다. 파이토치 코드는 파이썬 본래의 코드와 유사해 직관적이라는 장점이 있습니다.

★ 타깃 독자
__파이썬을 아는 딥러닝 입문자
__딥러닝을 더 잘 활용하고 싶은 현업 데이터 엔지니어
__딥러닝 전공 학과 학생

★ 이 책의 구성
이 책은 학습 흐름을 끊지 않기 위해 개발 환경부터 설명한 후, 다음과 같이 총 5단계에 걸쳐 딥러닝 알고리즘을 개발하는 방법을 공략해나갑니다.

_1단계 : 딥러닝 입문하기
인공지능의 배경지식과 신경망을 알아보고 나서 간단한 신경망을 만듭니다. 이미 배경지식을 아는 분은 1장과 2장을 건너뛰어도 되지만, 가능하면 다시 돌아보는 기회로 삼기 바랍니다.

_2단계 : 입문용 신경망 3총사 CNN, ResNet, RNN
딥러닝에서 가장 흔하게 사용되는 알고리즘 세 가지를 소개합니다. 먼저 이미지를 처리하는 가장 기본적인 신경망인 VGG(CNN 모델)를 다룹니다. 거기서 조금 더 발전된 형태인 ResNet은 최근에도 사용될 정도로 성능이 좋습니다. 시간의 흐름에 따라 순서가 있는 데이터를 시계열 데이터라고 부르는데, 시계열 데이터를 다루는 기본 알고리즘인 RNN을 마지막으로 알아보겠습니다.

_3단계 : 딥러닝으로 이미지 처리하기
분류보다 더 복잡한 이미지 처리 기술인 이미지 세그멘테이션, 이미지 디노이징, 자동 채색을 알아보겠습니다. U-Net, 오토인코더, Let there be color를 이용합니다. 딥러닝을 이용한 이미지 처리는 이미지로부터 얻은 특징을 어떻게 사용하느냐가 매우 중요합니다. 이미지의 특징을 처리하는 방법도 배워봅시다.

_4단계 : 딥러닝으로 텍스트 처리하기
실전에서 등장하는 시계열 알고리즘을 사용해 조금 더 복잡한 텍스트 처리를 배워보겠습니다. 10장에서는 RNN의 발전형인 LSTM을 이용해 '글을 쓰는 인공지능'을, 11장에서는 어텐션 기법을 이용해 기계 번역기를 만듭니다. 12장에서는 이미지로부터 텍스트를 추출하는 알고리즘을 알아봅니다. LSTM과 어텐션은 텍스트 처리에서 빠지지 않고 등장하는 개념입니다.

_5단계 : GAN으로 생성 모델 만들기
그림이나 음악을 만드는 등을 입력으로 주고 새로운 결과물을 출력하는 모델을 생성 모델이라고 부르는데, 가장 기본은 적대적 생성 신경망(GAN)입니다. 사람 얼굴을 생성하는 GAN, 화질을 개선하는 GAN, 데이터 없이 학습하는 GAN을 만들겠습니다.

_부록
본문에서 다루지 못한 GPT, BERT, ViT
를 알아보고, 오차 역전파를 이용해 실제로 가중치가 업데이트되는 과정을 알아봅니다. 끝으로 로컬에 실습 환경을 구축하는 방법을 알아봅니다.

00장. 실습 환경 안내
__0.1 코랩 시작하기
__0.2 코랩 기초 사용 방법
__0.3 예제 코드 노트 복사하기
__0.4 실습에 사용할 데이터셋 준비하기

[1단계 : 딥러닝 입문하기]

01장. 딥러닝 한눈에 살펴보기
__1.1 머신러닝과 딥러닝
__1.2 지도 학습, 비지도 학습, 강화 학습
__1.3 왜 딥러닝에 파이토치인가?
__1.4 파이토치 권고 코딩 스타일
__1.5 딥러닝 문제 해결 프로세스
__1.6 딥러닝 문제 해결 체크리스트
__1.7 딥러닝에 필요한 최소한의 통계 개념
__1.8 직관적 분석에 유용한 시각화
__학습 마무리
__연습문제

02장. 인공 신경망 ANN 이해하기
__2.1 퍼셉트론
__2.2 다층 신경망으로 단층 신경망 한계 극복하기
__2.3 인공 신경망의 학습 확인해보기
__2.4 손실 함수로 올바른 가중치 찾기
__2.5 경사 하강법과 오차 역전파로 최적의 값 찾기
__2.6 활성화 함수로 기울기 소실 예방하기
__2.7 신경망 성능 비교하기
__학습 마무리
__연습문제

03장. 간단한 신경망 만들기
__3.1 사인 함수 예측하기
__3.2 보스턴 집값 예측하기 : 회귀 분석
__3.3 손글씨 분류하기 : 다중분류
__학습 마무리
__연습문제

[2단계 : 입문용 신경망 3총사 CNN, ResNet, RNN]

04장. 사진 분류하기 : CNN과 VGG
__4.1 이해하기 : CNN
__4.2 데이터 전처리하기
__4.3 CNN으로 이미지 분류하기
__4.4 전이 학습 모델 VGG로 분류하기
__학습 마무리
__연습문제

05장. 유행 따라가기 : ResNet 만들기
__5.1 이해하기 : ResNet
__5.2 이해하기 : 배치 정규화
__5.3 기본 블록 정의하기
__5.4 ResNet 모델 정의하기
__5.5 모델 학습하기
__5.6 모델 성능 평가하기
__학습 마무리
__연습문제

06장. 넷플릭스 주가 예측하기 : RNN으로 첫 시계열 학습
__6.1 이해하기 : RNN
__6.2 데이터 살펴보기
__6.3 학습용 데이터 만들기
__6.4 RNN 모델 정의하기
__6.5 모델 학습하기
__6.6 모델 성능 평가하기
__학습 마무리
__연습문제

[3단계 : 딥러닝으로 이미지 처리하기]

07장. 이미지 세그멘테이션 : U-Net
__7.1 이해하기 : U-Net
__7.2 데이터 살펴보기
__7.3 학습용 데이터 만들기
__7.4 U-Net 모델 정의하기
__7.5 모델 학습하기
__7.6 모델 성능 평가하기
__학습 마무리
__연습문제

08장. 이미지 노이즈 제거 : 오토인코더
__8.1 이해하기 : 이미지 노이즈
__8.2 이해하기 : 오토인코더
__8.3 데이터 살펴보기
__8.4 학습용 데이터 만들기
__8.5 인코더 모델 정의하기
__8.6 디코더 모델 정의하기
__8.7 CAE 모델 정의하기
__8.8 모델 학습하기
__8.9 모델 성능 평가하기
__학습 마무리
__연습문제

09장. 자동 채색 : Let there be color 모델
__9.1 이해하기 : Let there be color 모델 구조
__9.2 데이터 살펴보기
__9.3 학습용 데이터셋 만들기
__9.4 모델 정의하기 : 로 레벨 특징 추출기
__9.5 모델 정의하기 : 미들 레벨 특징 추출기
__9.6 모델 정의하기 : 글로벌 레벨 특징 추출기
__9.7 모델 정의하기 : 컬러라이제이션 신경망
__9.8 모델 정의하기 : 전체 모델
__9.9 모델 학습하기
__9.10 모델 성능 평가하기
__학습 마무리
__연습문제

[4단계 : 딥러닝으로 텍스트 처리하기]

10장. 글쓰는 인공지능 : LSTM 텍스트 생성
__10.1 이해하기 : 텍스트 생성
__10.2 이해하기 : LSTM
__10.3 데이터 살펴보기
__10.4 학습용 데이터 만들기
__10.5 LSTM 모델 정의하기
__10.6 학습하기
__10.7 모델 성능 평가하기
__학습 마무리
__연습문제

11장. 직접 만드는 번역기 : 어텐션 기계 번역
__11.1 이해하기 : Seq2Seq 모델
__11.2 이해하기 : 어텐션 메커니즘
__11.3 이해하기 : GRU
__11.4 데이터 살펴보기
__11.5 학습용 데이터 만들기
__11.6 인코더 정의하기
__11.7 디코더 정의하기
__11.8 어텐션 기계 번역기 학습하기
__11.9 모델 성능 평가하기
__학습 마무리
__연습문제

12장. 캡챠 텍스트 인식 : CRNN+GRU
__12.1 이해하기 : CRNN
__12.2 이해하기 : CTC 손실
__12.3 데이터 살펴보기
__12.4 학습용 데이터셋 만들기
__12.5 CRNN 모델 정의하기 : CNN
__12.6 CRNN 모델 정의하기 : 전체 모델
__12.7 모델 학습하기
__12.8 모델 성능 평가하기
__학습 마무리
__연습문제

[5단계 : GAN으로 생성 모델 만들기]

13장. 사람 얼굴을 생성하는 GAN
__13.1 이해하기 : GAN
__13.2 이해하기 : 특징 공간
__13.3 데이터 살펴보기
__13.4 학습용 데이터셋 만들기
__13.5 GAN 생성자 정의하기
__13.6 GAN 감별자 정의하기
__13.7 가중치 초기화하기
__13.8 모델 학습하기
__13.9 모델 성능 평가하기
__학습 마무리
__연습문제

14장. 화질을 개선하는 GAN
__14.1 이해하기 : SRGAN
__14.2 학습용 데이터셋 만들기
__14.3 SRGAN 생성자 정의하기
__14.4 SRGAN 감별자 정의하기
__14.5 CNN 특징 추출기 정의하기
__14.6 모델 학습하기
__14.7 모델 성능 평가하기
__학습 마무리
__연습문제

15장. 데이터 없이 학습하는 GAN
__15.1 이해하기 : 모델 경량화
__15.2 이해하기 : GAN을 이용한 경량화
__15.3 교사 모델 학습하기
__15.4 GAN 생성자 정의하기
__15.5 학생 모델과 생성자 학습하기
__15.6 모델 성능 평가하기
__학습 마무리
__연습문제

부록 A. 트랜스포머 · GPT · BERT · ViT 알아보기
부록 B. 오차 역전파에서 가중치 업데이트 과정
부록 C. 윈도우 · 맥OS · 우분투에 개발 환경 구축하기

이종민(텐초) 일본 JAIST 정보과학 석사. 동경의 딥러닝 엔지니어로 Ghelia에서 B2B 인공지능 솔루션을 개발 중이다. 딥러닝의 유용함을 널리 알리고자 유튜버로 활동하고 글을 쓰고 책을 집필합니다. 쉬운 그림을 이용해 10초만에 핵심을 전달하자는 의미에서 닉네임을 텐초로 지어 활동하고 있습니다.
- SNS : www.youtube.com/c/텐초