신뢰성과 투명성을 위한 설명 가능 인공지능(인공지능총서)

블랙박스 AI를 넘어 투명한 미래로
인공지능은 높은 성능을 자랑하지만 의사결정 과정의 불투명성, 즉 블랙박스 문제로 심각한 사회적 위험을 초래할 수 있다. 의료, 금융, 법률 등 고위험 분야에서 오류와 편향이 드러나면서 알고리즘의 투명성과 설명 가능성 확보가 시급해졌다. 이 책은 블랙박스 AI의 문제점을 짚고, 이를 극복하기 위한 설명 가능 인공지능(XAI) 기술을 소개한다. 인간이 이해할 수 있는 설명을 제공하고, 공정성, 책임성, 신뢰성을 확보하는 방법을 다룬다.
또한 국내외 주요 법제 흐름과 함께, 기능적·설명적·사회적 측면에서 XAI의 핵심 역할을 체계적으로 분석한다. AI 기술이 일상에 깊숙이 스며든 지금, AI의 투명성과 신뢰성을 확보하는 방법은 필수적 과제가 되었다.기술 개발자, 정책 입안자, 비전문가 모두에게 설명 가능 인공지능의 필요성과 방향을 제시한다.

블랙박스 인공지능의 위험과 설명 가능 인공지능의 필요성

01 설명 가능 인공지능의 시작
02 딥러닝의 시대와 인공지능의 불투명성
03 불투명성의 원인과 설명 가능 인공지능의 재조명
04 설명 가능 인공지능의 원리
05 설명 가능 인공지능의 구현
06 설명 가능 인공지능 모델의 분류
07 설명 가능 인공지능의 응용
08 이해를 위한 설명 가능 인공지능
09 사회를 위한 설명 가능 인공지능
10 설명 가능 인공지능의 도전과 미래

전진권 명지대학교 방목기초교육대학 부교수다. 서울대학교 과학학과에서 과학철학으로 박사 학위를 받았다. 고등과학원 초학제 연구단 '인공지능: 과학, 역사, 철학'에서 인공지능의 사회적 책임에 대해 연구했다(2017∼2018). 저서로 『융합이란 무엇인가: 융합의 과거에서 미래를 성찰한다』(2012), 역서로 『신경 윤리학이란 무엇인가: 뇌과학 인간 윤리의 무게를 재다』(2011) 등이 있다. "형질 집단 선택론의 관점 다원주의에 대한 비판"(2017), "계량서지학을 통한 종교와 과학 연구 동향 분석"(2023), "Three Research Strategies of Neuroscience and the Future of Legal Imaging Evidence"(2018) 등의 논문을 썼다.