딥페이크 생성과 탐지(AI문고)

현실이 된 가짜의 위협, 딥페이크를 이해하고 대비하라
AI 기술의 진보로 현실처럼 만들어지는 가짜 이미지, 음성, 영상의 생성 원리와 탐지 기술을 다룬다. 딥페이크는 예술, 교육, 마케팅 등에 활용될 수 있지만 악용될 경우 사회 혼란과 범죄로 이어지는 심각한 위협이 된다. 고위 인사 사칭, 음란물 합성, 가짜 뉴스 등 피해 사례는 나날이 증가하고 있다. 이 책은 이러한 위협에 대응하기 위해, 딥페이크 기술의 구조와 탐지 원리를 체계적으로 설명한다. 생성형 AI와 딥러닝, 적대적 생성 네트워크(GAN), 확산 모델 등 딥페이크의 생성 기술은 물론, 이를 판별하기 위한 주파수 분석, 음성·영상 탐지 기법도 소개한다. 단순 기술 설명을 넘어, 국내외 연구 성과와 탐지 기술의 미래 방향까지 다루며 독자에게 기술적 이해와 사회적 통찰을 동시에 제공한다. 기술에 대한 막연한 두려움에서 벗어나 균형 잡힌 시각을 갖기 원하는 일반인, 정책 담당자, 연구자, 그리고 창작 도구로 AI를 활용하고자 하는 예술가에게 필요한 정보를 담았다.

일상으로 다가온 딥페이크

01 딥페이크의 역사 및 사회적 대처
02 딥러닝
03 잠재 공간을 이용한 멀티미디어 생성
04 인공지능을 이용한 멀티미디어 생성 과정
05 적대적 생성형 모델과 확산 모델
06 영상 딥페이크 탐지 방법
07 음성 딥페이크 탐지 방법
08 딥페이크 탐지의 어려움
09 딥페이크 탐지 성능 향상
10 딥페이크 탐지 연구 방향

유하진 서울시립대학교 컴퓨터과학부 교수다. KAIST 전산학과에서 학사, 석사, 박사 학위(1997)를 받았다. 박사 학위 논문 제목은 "불균일 단위 신경 회로망과 퍼지전문가 시스템에 기반한 연속음성인식 시스템"이다. LG전자기술원에서 한국어음성인식기를 개발했다(1997∼2000). 벤처 기업 SL2(주)에서 연구소장으로 음성 인식 기술을 상업화했다(2000∼2002). 2002년 서울시립대학교 컴퓨터과학부 교수로 부임해 현재까지 화자 인식 등을 연구했고, 2014년부터 음성 딥페이크 탐지 연구를 진행했다. 국제적 챌린지 ASVspoof(automatic speaker verification spoofing and countermeasures challenge)에 여러 차례 팀으로 참가해 상위권의 성적을 얻었다. 한국음성학회와 한국음향학회에서 총무이사, 편집위원장 등을 역임했고, 우수논문상을 수상했다. 서울시립대학교 컴퓨터과학부장, 인공지능학과장, 교수학습연구센터장 등의 직을 수행했다. 옮긴 책으로 『루비 프로그래밍언어』(2012)가 있고, "AASIST: Audio anti-spoofing using integrated spectro-temporal graph attention networks" 등 100편 이상의 논문을 국제 학술 대회에서 발표하거나 학술지에 게재했다.