텐서플로우 원리와 응용

구글의 텐서플로우 개발자들이 집필한
학습서

이 책은 구글의 텐서플로우 개발자들이 집필하였으며, 구글 텐서플로우 R&D 팀에서 추천하는 학습서이다. 이 책의 저자인 황원지앤(黃文)은 현재 중국 인터넷투자금융 기업인 PPmoney의 빅데이터 알고리즘 인스펙터로서 Google TensorFlow Contributor로 활동 중이며, 탕위앤(唐源)은 미국 Uptake 데이터 과학자로서 Google TensorFlow Committer로 활동 중이다.
이 책은 저자들이 텐서플로우 개발 경험을 살려, 실용적 측면에 중점을 두고 독자들에게 텐서플로우를 사용한 완전 연결 신경망, 컨벌루션 신경망, 순환 신경망 및 Deep Q-Network 등을 연결하는 방법을 설명한다. 다양한 코드 예제를 수록하여, 독자들이 실제로 예제를 풀어보면서 텐서플로우 사용 방법을 쉽게 학습할 수 있도록 구성되어 있다. 또한 텐서플로우 원리 및 딥러닝의 부분 지식과 결합하여 독자들이 이 책을 통해 실제 프로젝트와 성과를 만들어낼 수 있다.

다양한 코드 예제를 직접 풀어보면서 텐서플로우를 쉽게 학습한다.

이 책의 각 장 사이에는 커다란 의존적인 관계가 없으므로, 만일 독자가 어느 장에 흥미를 느낀다면 직접 그 부분을 읽으면 된다. 이 책은 TensorFlow 1.0.0-rc0을 사용하여 예를 들어 설명하였다. 최신 버전의 텐서플로우와 대부분의 코드는 호환되며, 몇 가지 인터페이스 업데이트가 있을 수 있으며, 독자는 프롬프트를 참조할 수 있다. 이 책의 대부분 코드는 파이썬 코드로, 이는 텐서플로우가 지원하는 가장 완벽한 인터페이스 언어이다.

제1, 2장은 텐서플로우의 기초 지식과 개념을 소개하고, 제3장과 4장은 간단한 예시 및 신경망을 연결하는 방법을 소개한다. 제5장과 6장은 기초적인 회선신경망 및 현재 비교적 정형화된 AlexNet, VGGNet, Inception Net과 ResNet을 설명한다. 제7장은 Word2Vec, RNN과 LSTM을, 제8장은 강화학습 및 딥러닝을 기반으로 한 정책 네트워크와 평가 네트워크를,. 제9장은 TensorBoard, 단독 설비의 여러 GPU의 병행 및 분산식 병행에 대해 설명한다.

제10장은 다양한 유형의 딥러닝 및 유행하는 머신러닝 알고리즘의 사용 방법이 포함된 텐서플로우의 contrib.leam 모듈을 소개하며, 이 모듈의 분산식 에스티메이터(Estimator)의 기본 구조 및 에스티메이터를 어떻게 사용해야 자신의 분산식 머신러닝 모델의 구조를 빠르게 구축하고 모델의 훈련과 평가를 진행할 수 있는지 해석하였다. 또한, 슈퍼바이저를 사용하여 모델 훈련을 잘 모니터링하고, 데이터프레임(DataFrame)을 사용하여 다양한 데이터 양식을 읽는 방법에 대해서도 설명한다.

제11장에서는 Contrib 모듈을 소개하고, 이 모듈 안에 통계 분포, 머신러닝 층, 최적 함수, 지표 등이 포함된 많은 머신러닝에 필요한 기능을 제공한다. 이 장에서는 그중의 모두에게 텐서플로우의 포괄적 범위를 이해시키는 기능을 간략히 소개하였으므로 커뮤니티의 적극적 참여와 공헌도를 느낄 수 있다. 제10장과 제11장은 TensorFlow 0.11.0-rc0 버전을 사용하여 예제를 풀어가며 알기 쉽게 설명한다.

Chapter 01 텐서플로우 기초
　1.1 텐서플로우 개요
　1.2 텐서플로우 프로그램 모델 소개
　　1.2.1 핵심 개념
　　1.2.2 구현 원리
　　1.2.3 기능 확장
　　1.2.4 성능 최적화

Chapter 02 텐서플로우와 기타 딥러닝 프레임워크 비교
　2.1 주요 딥러닝 프레임워크 비교
　2.2 주요 딥러닝 프레임워크 소개
　　2.2.1 텐서플로우
　　2.2.2 카페(Caffe)
　　2.2.3 테아노(Theano)
　　2.2.4 토치(Torch)
　　2.2.5 라자냐(Lasagne)
　　2.2.6 케라스(Keras)
　　2.2.7 엠엑스넷(MXNet)
　　2.2.8 DIGITS(Deep Learning GPU Training System)
　　2.2.9 CNTK(Computational Network Toolkit)
　　2.2.10 Deeplearning4J
　　2.2.11 체이너(Chainer)
　　2.2.12 리프(Leaf)
　　2.2.13 DSSTNE(Deep Scalable Sparse Tensor Network Engine)

Chapter 03 텐서플로우 첫걸음
　3.1 텐서플로우 컴파일 및 설치
　　3.1.1 Anaconda 설치
　　3.1.2 텐서플로우 CPU 버전 설치
　　3.1.3 텐서플로우 GPU 버전 설치
　3.2 텐서플로우에 의한 Softmax Regression의 필기 숫자 인식 구현

Chapter 04 텐서플로우에 의한 오토인코더 및 멀티 레이어 퍼셉트론 구현
　4.1 오토인코더(Autoencoder) 소개
　4.2 텐서플로우에 의한 오토인코더 구현
　4.3 멀티 레이어 퍼셉트론(MLP) 소개
　4.4 텐서플로우에 의한 멀티 레이어 퍼셉트론 구현

Chapter 05 텐서플로우에 의한 컨벌루션 신경망 구현
　5.1 컨벌루션 신경망 소개
　5.2 텐서플로우에 의한 간단한 컨벌루션 네트워크 구현
　5.3 텐서플로우에 의한 고급 컨벌루션 네트워크 구현

Chapter 06 텐서플로우에 의한 전형적인 컨벌루션 신경망 구현
　6.1 텐서플로우에 의한 AlexNet 구현
　6.2 텐서플로우에 의한 VGGNet 구현
　6.3 텐서플로우에 의한 구글 인셉션 Net 구현
　6.4 텐서플로우에 의한 ResNet 구현
　6.5 컨벌루션 신경망의 발전 추세

Chapter 07 텐서플로우에 의한 순환 신경망 및 Word2Vec 구현
　7.1 텐서플로우에 의한 Word2Vec 구현
　7.2 텐서플로우에 의한 LSTM에 기초한 언어 모델을 구현
　7.3 텐서플로우에 의한 Bidirectional LSTM Classifier 구현

Chapter 08 텐서플로우에 의한 심층 강화학습 구현
　8.1 심층 강화학습(Deep reinforcement learning, RL) 소개
　8.2 텐서플로우에 의한 전략 네트워크 구현
　8.3 텐서플로우에 의한 평가 네트워크 구현

Chapter 09 텐서보드, 멀티 GPU 병렬성 및 분산 병렬성
　9.1 텐서보드(TensorBoard)
　9.2 다중 GPU 병렬성(또는 멀티 GPU 병렬성)
　9.3 분산 병렬성(또는 분산식 병렬성 / 분산 병렬 처리)

Chapter 10 TF.Learn 입문부터 숙달까지
　10.1 분산식 에스티메이터(Estimator)
　　10.1.1 분산식 에스티메이터 사용자 정의 모델 소개
　　10.1.2 자신의 러닝머신 에스티메이터 구축
　　10.1.3 RunConfig 런타임 매개변수 조정
　　10.1.4 Experiment와 LearnRunner
　10.2 딥러닝 에스티메이터
　　10.2.1 심층 신경망(DNN)
　　10.2.2 와이드 앤 딥 모델(Wide & Deep Model)
　10.3 머신러닝 에스티메이터(Machine Learning Estimator)
　　10.3.1 선형(Linear) / 로지스틱 회귀(Logistic Regression)
　　10.3.2 랜덤 포레스트(Random Forest)
　　10.3.3 K-평균 군집화(K-means clustering)
　　10.3.4 서포트 벡터 머신(Support Vector Machine)
　10.4 데이터 프레임(DataFrame)
　10.5 수퍼바이저 모니터(Supervisor Monitors)

Chapter 11 TF.Contrib의 기타 모듈
　11.1 통계 분포
　11.2 레이어 모듈
　　11.2.1 머신러닝 레이어
　　11.2.2 손실함수
　　11.2.3 특징 열(Feature Column)
　　11.2.4 임베딩(Embeddings)
　11.3 성능분석기 tfprof

황원지앤 Google TensorFlow 개발자,
PPmoney의 빅데이터 알고리즘 인스펙터

현재 PPmoney의 빅데이터 알고리즘 인스펙터로서 그룹의 리스크 관리, 재무 데이터, 인터넷 증권 및 기타 비즈니스 마이닝 작업을 담당하고 있으며, Google TensorFlow Contributor로 활동 중이다. 전 밀워드 브라운 데이터 기술 파트너로서 많은 대형 은행, 보험회사, 기금의 데이터 마이닝 프로젝트에서 금융 위험관리 모델, 뉴스 여론 분석, 보험 환매 예측 등의 개발을 주도하였으며, 알리바바 검색 엔진 알고리즘 팀에서 Tmall 맞춤형 검색 시스템을 담당하면서 Alibaba Big Data Recommendation Algorithm 경연 대회에 참가하여 7,000개 이상의 팀 중에서 10위를 하였다. 홍콩과학기술대학 학부 및 대학원 졸업하고, 컨퍼런스 및 저널 SIGMOBILE MobiCom, IEEE Transactions on Image Processing에 논문을 발표하였으며, 미국컴퓨터협회(American Computer Society)의 모바일 컴퓨팅 컨퍼런스(MobiCom)에서 모바일 컴퓨팅 기술 부문 최우수상을 수상하였다. 현재 두 개의 미국 특허와 중국 특허를 가지고 있다.