AI와 딥페이크 음란물(인공지능총서)

딥페이크, 음란물 그리고 AI의 그림자

AI 기술의 발전과 함께 발생하는 딥페이크 음란물 문제를 다룬다. 딥페이크는 딥러닝 기술을 이용해 얼굴이나 신체 등을 조작해 가짜 영상을 만들어내는 기술로, AI 발전과 더불어 누구나 쉽게 이를 활용할 수 있게 되었다. 과거 전문가들만이 할 수 있었던 영상 조작이 이제는 일반인도 간단히 접근할 수 있는 수준으로 발전한 것이다.
이 책은 특히 딥페이크 기술이 음란물 제작에 악용되는 현실에 초점을 맞춘다. AI 기반 딥페이크 음란물은 사실과 구분하기 어려운 정교함을 가지고 있어 피해자가 심각한 정신적 피해를 입을 수 있다. 최근 들어 딥페이크 음란물로 인한 성범죄 피해가 급증하고 있으며, 특히 10대 청소년들이 이러한 기술을 악용하는 사례가 늘고 있다. 청소년들 사이에서는 이를 범죄로 인식하기보다는 단순한 장난으로 여기는 경우가 많아 더욱 심각한 문제로 대두되고 있다. 실제로 2023년, 부산의 한 중학교에서는 학생들이 교사의 사진을 음란물과 합성해 돌려본 사건이 발생했으며, 경찰이 수사에 나섰으나 가해자를 특정하지 못해 사건은 '가해자 없는 교권 침해'로 마무리되었다. 이러한 사건은 단순한 장난이 아니라 범죄라는 인식을 사회 전반에 확산시키는 것이 필요하다. 딥페이크 음란물이 사회적으로 미치는 영향을 분석하고, 이에 대응하기 위한 법적·제도적 해결 방안을 모색한다. 딥페이크 기술의 발전이 가져오는 긍정적인 면뿐만 아니라 그에 따른 부작용도 깊이 살펴보며, AI 기술의 윤리적 사용에 대한 필요성을 강조한다.

AI와 딥페이크, 그리고 음란물

01 AI와 딥페이크
02 딥페이크 사기와 명예훼손 등
03 딥페이크와 초상권 침해
04 딥페이크 음란물과 인격권 침해
05 음란의 판단 기준
06 딥페이크 음란물 제작자의 책임
07 AI 개발 및 학습 관여자의 책임
08 딥페이크 음란물에 대응하는 현행법과 한계
09 딥페이크 워터마크와 신속 차단
10 디지털 리터러시

김민호 1998년부터 성균관대학교 법학전문대학원 교수로 재직 중이다. 성균관대학교에서 학사, 석사, 박사학위를 받고, 미국 보스턴대학교(Boston University) 로스쿨에서 박사후연구과정(Post Doc.)을 수료했다. 개인정보보호법학회 회장, 국가인권위원회 인권위원, 대통령소속 규제개혁위원회 위원, 중앙행정심판위원회 위원 등을 역임했다. 지금은 공공데이터분쟁조정위원회 위원장, 국가기준데이터위원회 위원장, 한국인터넷자율정책기구(KISO) 이사회 의장으로 활동하고 있다. 주요 저서로 『행정법』(2023), 『별난 법학자의 그림이야기』(2010)가 있다. 방송, 통신, 인터넷 관련 100편 이상의 논문을 학술지에 게재했다.