자연어 처리 첫단추 끼우기

1 자연어 처리 소개
실습 1 셋업

2 기본 언어 모델
2.0 학습 목표
2.1 텍스트 분석과 토큰화
2.2 n-gram 모델
2.3 단어 가방 모형(Bag of Words, BoW)
실습 2 간단한 말뭉치 분석으로 영어 텍스트의 특징 파악하기
실습 3 n-gram 모델을 바탕으로 새로운 텍스트 생성해보기
실습 4 BoW 모형 직접 구현해보기

3 워드 임베딩(Word embeddings)
3.0 학습 목표
3.1 워드 임베딩의 기본적 개념
3.2 오토인코더(Autoencoder)
3.3 비지도학습 방식을 이용한 위드 임베딩
실습 5 워드 임베딩
실습 6 오토인코더
실습 7 오토인코더를 통한 워드 임베딩 학습

4 RNN
4.0 학습 목표
4.1 Intro
4.2 RNN이란?
4.3 RNN 구축하기
4.4 Transforming to Be Linear
4.5 Backpropagation
4.6 Variations of RNN
실습 8 RNN 학습시켜보기 1
실습 9 RNN 학습시켜보기 2

5 Seq2Seq
실습 10 Seq2seq
실습 11 Attention 기반 seq2seq

6 신경망 성능 향상을 위한 기법들
6.0 학습 목표
6.1 Batch Normalization
6.2 Layer Normalization
6.3 Residual Connection
실습 12 Transfomer

임주희