텐서플로우 2.0(새롭게 배우는)

| 이 책의 대상이 되는 독자들 |

만일 여러분이 텐서플로우 2.0으로 코드를 마이그래이션하기를 원하고 최신의 기능을 학습

하고자 하는 데이터 과학자, 기계 학습 전문가, 딥 러닝 연구원 또는 AI 애호가라면 이 책은 여러분에게 도움이 될 것이다. 이 책에서 다루는 개념을 이해하려면 텐서플로우와 파이썬 프로그래밍에 대한 사전 경험이 필요하다.



| 이 책에서 다루는 내용들 |

1장, 텐서플로우 2.0 시작하기 에서는 텐서플로우 2.0의 아키텍처의 측면과 API 수준의 변화들에 대한 간략한 조감도를 제공할 것이다. 텐서플로우 2.0 설치 및 설정을 다루고, 텐서플로우 1.x(Keras API 및 레이어 API 등)에 비해 어떻게 변경되었는지 비교하고, 또한 텐서플로우 확률, Tensor2Tensor, Ragged 텐서 및 새롭게 적용된 손실 함수의 맞춤형 학습 로직과 같은 풍부한 확장 기능의 추가에 대해서도 설명한다.



2장, Keras 기본 통합 및 즉시 실행에서는 Keras를 사용하는 고수준의 텐서플로우 2.0 API들을 깊이 있게 알아본다. 텐서플로우 2.0과 비교하여 텐서플로우 1.x에서 그래프를 평가하는 방법에 대한 자세한 관점을 제시한다. 느긋한 연산과 즉시 실행에 대해 설명하고 텐서플로우 2.0에서 그것들의 차이점을 설명하며, 또한 Keras 모델 서브클래싱(subclassing)을 사용하여 커스텀으로 구축된 모델을 위해 텐서플로우 2.0 하위 API들을 결합하는 방법을 보여줄 것이다.



3장, 입력 데이터 파이프라인 설계 및 구성하기 에서는 TFRecords와 tf.data.Dataset을 이용하여 CSV, 이미지 및 텍스트와 같은 가장 일반적인 형식의 대규모 학습 및 추론 데이터 셋을 입력하기 위한 복잡한 입력 데이터 파이프라인을 구축하는 방법에 대한 개요를 제공한다.

프로토콜 버퍼와 프로토콜 메시지에 대한 일반적인 설명과 그것들을 tf.Example을 이용하여 구현하는 방법을 설명한다. 또한 셔플링(shuffling), 프리패치(prefetching) 및 데이터 배치(batching)와 관련하여 tf.data.Dataset을 사용하는 최고의 방법을 설명하고 데이터 파이프라인을 구축하기 위한 권장하는 방법을 제시한다.



4장, 모델 학습 및 텐서보드 사용하기 에서는 최신의 모델을 구축, 학습 및 검증할 수 있는 전체적인 모델 학습 파이프라인을 다룬다. 입력 데이터 파이프라인을 결합하고, tf.keras 모델을 생성하고, 분산된 방법으로 학습을 수행하고, 하이퍼파라메터 파인튜닝을 위해 검증을 수행하는 방법에 대해 설명한다. 배포 또는 추론을 위해 텐서플로우 모델을 내보내는 방법을 설명하고 텐서보드 사용법, 텐서플로우 2.0에서 텐서보드가 변화된 점 및 모델의 속도와 성능을 디버깅 하고 프로파일링하기 위해 텐서보드를 사용하는 방법에 대해서 설명한다.



5장, 모델 추론 파이프라인-멀티 플랫폼 배포에서는 실제 상용 환경에서 대규모 소프트웨어 어플리케이션을 구축하기 위해 학습된 모델을 사용하기 위한 몇 가지 배포 전략을 소개한다. 텐서플로우 2.0에서 학습된 모델을 파이썬 자바스크립트와 같은 다양한 프로그래밍 언어를 사용하는 서버와 웹 브라우저 같은 플랫폼에 배포할 수 있다.



6장, AIY 프로젝트 및 텐서플로우 라이트 에서는 안드로이드, iOS, 라즈베리 파이, 엣지 TPU 및 NVIDIA Jetson Nano를 포함하는 엣지 디바이스 및 모바일 시스템과 같은 저전력 임베디드 시스템에 텐서플로우 2.0으로 학습된 모델을 배포하는 방법을 설명한다. 또한 Google's AIY kit에서 모델을 학습하고 배포하는 것에 관한 자세한 내용이 포함되어 있다.



7장, 텐서플로우 1.x에서 텐서플로우 2.0으로 마이그레이션하기 에서는 텐서플로우 1.x와 텐서플로우 2.0간의 개념상의 차이점, 그것들 간의 호환성의 기준, 그것들 간에 구문적으로 그리고 의미적으로 마이그레이션 하는 방법을 설명한다. 또한 텐서플로우 1.x에서 텐서플로우 2.0으로 구문적 및 의미적 마이그레이션 하는 몇 가지 방법을 보여주고 참고 자료와 앞으로에 대한 정보가 포함되어 있다.

제1부 텐서플로우 2.0-구조 및 API 변화

제1장 텐서플로우 2.0 시작하기

기술적인 요구 사항 03

새로 변화된 내용 04

TF 1.x와 달라진 점들 05

TF 2.0 설치 및 셋업 06

설치하기와 pip 사용하기 06

Docker 사용하기 07

GPU 설치 08

TF 2.0 사용하기 10

풍부한 확장기능 13

Ragged 텐서 13

Ragged 텐서의 구성 14

새롭고 중요한 패키지들 17

요약 18

제2장 Keras 기본 통합 및 즉시 실행

기술적인 요구 사항 19

TF 2.0에서 새로운 추상화 20

Keras API에 대해서 자세히 알아보기 20

Keras는 무엇인가? 21

모델 구축 21

모델 학습 29

모델 저장 및 로딩 30

다른 특징들 35

종단-대-종단 순차형 예제 37

추정기 40

텐서플로우 그래프 평가하기 42

지연된 로딩 VS 즉시 실행 42

요약 44



제2부 텐서플로우 2.0-데이터 및 모델 학습 파이프라인

제3장 입력 데이터 파이프라인 설계 및 구성하기

기술적인 요구 사항 50

데이터 파이프라인 설계 및 구성하기 50

로우(Raw) 데이터 52

학습, 검증 및 테스트 데이터로 분할하기 53

TFRecords 생성 56

tf.data 데이터셋 객체 생성 61

데이터셋 변형 67

map 함수 69

flat_map 함수 70

zip 함수 70

연결 함수 70

interleave 함수 71

take(count) 함수 72

filter(predicate) 함수 72

tf.data.Dataset을 이용하여 셔플링 및 반복 72

배치(Batching) 74

프리패치(Prefetching) 75

모델 입력 전 데이터 파이프라인 출력 유효성 검사 75

생성된 데이터셋을 모델에 입력 76

전체적인 종단-대-종단 데이터 파이프라인 예제 77

pickle 파일을 이용한 tfrecords 생성 78

TF 2.0에서 데이터 파이프라인의 모범 사례 및 성능 최적화 81

TF 2.0에 내장된 데이터셋 81

요약 84

추가 자료 84



제4장 모델 학습 및 텐서보드 사용하기

기술적인 요구 사항 86

Keras와 tf.keras 비교 86

추정기와 tf.keras 비교 87

머신 러닝 분류 및 TF 지원에 대한 간단한 리뷰 88

tf.keras 2.0을 이용한 모델 생성 89

순차형 API 91

함수형 API 92

모델 서브클래싱 API 93

모델 컴파일 및 학습 95

compile() API 96

fit() API 96

모델 저장 및 복원 97

커스텀 학습 논리 99

분산 학습 103

텐서보드 105

콜백 및 호출로 텐서보드 후킹 105

스칼라, 측정, 텐서 및 이미지 데이터의 시각화 107

그래프 대쉬보드 109

하이퍼파라메터 튜닝 112

What-If 도구 115

Profiling 도구 115

요약 116

질문 116

추가 자료 117



제3부 텐서플로우 2.0-모델 추론 및 배포 및 AIY

제5장 모델 추론 파이프라인-멀티플랫폼 배포

기술적인 요구 사항 122

머신 러닝 워크플로우-추론 단계 122

추론 관점에서 모델 이해하기 123

모델 산출물-SavedModel 형식 124

핵심 데이터플로우 모델 이해하기 124

tf.function API 126

SavedModel 모델 내보내기 130

SavedModel 산출물 분석하기 132

백엔드 서버에서의 추론 136

텐서플로우 서빙 137

TensorFlow.js와 Node.js의 통합 140

브라우저에서 추론 140

모바일 및 IoT 장치에서 추론 142

요약 143

제6장 AIY 프로젝트 및 텐서플로우 라이트

TFLite 소개 146

TFLite로 시작하기 146

모바일 장치에서 TFLite 실행하기 149

안드로이드에서 TFLite 149

iOS에서 TFLite 150

저전력 장치에서 TFLite 실행하기 151

엣지 TPU 프로세서에서 TFLite 실행하기 151

NVIDIA Jetson Nano에서 TF 실행하기 154

TFLite와 TF 비교하기 155

AIY 156



요약 159

제4부 텐서플로우 2.0-텐서플로우 1.x에서

2.0으로 마이그레이션하기

제7장 텐서플로우 1.x에서 2.0으로 마이그레이션하기

TF 2.0의 주된 변화 164

관용적 TF 2.0에 권장되는 기술 164

TF 2.0 네이티브 코드 만들기 167

TF 1.x model을 변경하기 168

학습 루프 업그레이드하기 173

변환할 때 그 밖의 참고 사항 177

자주하는 질문 178

TF 2.0의 미래 180

더 참고 해야할 사항 180

요약 181

Index 181

Ajay Baranwal Ajay Baranwal은 전자 제조 분야의 딥 러닝 센터 총괄을 맡고 있으며, 반도체 및 전자 제조 산업에서 텐서플로우 기반의 딥 러닝 응용 프로그램을 연구하고 개발하는 일을 담당하고 있다. 또한 전문가들에게 딥러닝 기술들을 가르치고 훈련하는 일을 해오고 있다.

그는 딥 러닝에 매료되어 소프트웨어 공학과 운영에 관한 탄탄한 경력을 쌓아왔다. Abzoob에서 딥 러닝을 더 깊이 연구하기 위해 자연어 이해(NLU) 분야로 옮겨서 금융 분야의 정보 검색 시스템을 구축했다. 또한 그는 Ansys Inc. 에서 선임 관리자(엔지니어링) 및 기술 담당자(데이터 과학)로 근무하였으며 여러가지 ML 응용 프로그램들을 개발하였다.