DIFFUSION MODEL: 생성형 AI 모델의 이론과 응용

1장. AIGC 및 관련 기술
1.1 AIGC 소개 2
1.2 확산 모델링 소개 4

2장. 확산 모델링의 기초
2.1 노이즈 제거 확산 확률 모델 10
2.2 스코어 기반 생성 모델 22
2.3 확률 미분 방정식 25

3장. 확산 모델링을 위한 효율적인 샘플링
3.1 미분 방정식 50
3.2 결정론적 샘플링 52
3.2.1 확률 미분 방정식 솔버 52
3.2.2 상미분 방정식 솔버 60
3.3 학습 기반 샘플링 66
3.3.1 개별 모드 66
3.3.2 절단 확산 68
3.3.3 지식 증류 75

4장. 확산 모델에 대한 우도 극대화
4.1 우도 함수 최대화하기 82
4.2 노이즈 추가 전략의 최적화 84
4.3 역 분산 학습 88
4.4 정확한 로그 우도 추정 100

5장. 특수한 구조의 데이터에 확산 모델링 적용하기
5.1 불연속형 데이터 106
5.2 불변 구조의 데이터 110
5.3 스트리밍 구조의 데이터 118
5.3.1 알고 있는 흐름 패턴 118
5.3.2 알 수 없는 흐름 패턴 119

6장. 다른 생성 모델과 관련된 확산 모델
6.1 다양한 자동 인코더 및 확산 모델 126
6.2 적대 신경망 및 확산 모델 생성하기 128
6.3 정규화된 흐름 및 확산 모델 135
6.4 자동 회귀 및 확산 모델 139
6.5 에너지 기반 모델 및 확산 모델 140

7장. 확산 모델링 적용
7.1 무조건 확산 모델과 조건부 확산 모델 비교 144
7.2 컴퓨터 비전 145
7.2.1 이미지 초해상도, 이미지 복원 및 이미지 번역 145
7.2.2 의미적 분할 151
7.2.3 비디오 생성 154
7.2.4 포인트 클라우드 완성 및 포인트 클라우드 생성 157
7.2.5 이상 탐지 160
7.3 자연어 처리 162
7.4 시간적 데이터 모델링 168
7.4.1 시계열 보간 168
7.4.2 시계열 예측 170
7.5 멀티모달 학습 172
7.5.1 텍스트-대-이미지 생성 172
7.5.2 텍스트-음성 변환 생성 180
7.5.3 장면 그래프에서 이미지 생성까지 182
7.5.4 텍스트-3D 콘텐츠 생성 184
7.5.5 텍스트-바디 모션 생성 185
7.5.6 텍스트-비디오 생성 185
7.6 강건 학습 187
7.7 융합 애플리케이션 188
7.7.1 인공지능 신약 개발 188
7.7.2 의료 영상 195

8장. 확산 모델링의 미래 - GPT와 대형 모델
8.1 사전 학습 기법 소개 201
8.1.1 생성적 사전 학습 및 대조적 사전 학습 202
8.1.2 병렬 학습 기법 206
8.1.3 미세 조정 기술 209
8.2 GPT 및 대형 모델 210
8.2.1 GPT-1 211
8.2.2 GPT-2 214
8.2.3 GPT-3 및 대형 모델 217
8.2.4 InstructGPT 및 ChatGPT 225
8.2.5 비주얼 채팅GPT 229
8.3 GPT 및 대형 모델 기반 확산 모델링 232
8.3.1 알고리즘 연구 232
8.3.2 패러다임 적용하기 233

찾아보기 235

양링