AI 위험과 인간의 대응(인공지능총서)

미래를 준비하는 인간의 자세
AI는 편리함을 제공하지만 그에 따른 위험 관리 역시 매우 중요하다. 이 책은 AI가 가져올 다양한 위험을 이해하고 이를 어떻게 관리할 수 있는지에 대해 다룬다. AI의 부작용은 프라이버시 침해, 자율주행 사고 등 다양하며, 이는 신기술의 도입과 함께 발생하는 위험 중 일부다. AI에 수반되는 위험은 인간이 어떻게 대응하느냐에 따라 큰 차이로 다가올 수 있다. 여기서 위험 관리란 단순히 기술적 해결책을 제시하는 것에 그치는 것이 아니라 법적, 윤리적 문제를 포괄하는 접근을 의미한다.
AI 기술이 발전하면서 인간의 결정에 미치는 영향이 커지고 있다. AI의 고도화는 새로운 위험을 초래할 가능성이 크다. 이 책은 AI 위험을 자율 규제와 강제 규제의 두 가지 관점에서 설명하며, 각국의 규제 정책과 이에 대한 인간의 대응 방안을 심도 있게 다룬다. 10개 키워드로 구성된 이 책은 AI 규제의 역사적 흐름을 정리하며 해외와 국내 규제의 양식 변화를 살피고 AI 발전이 가져올 미래 사회의 방향성을 논의한다.

AI와 위험 관리

01 AI 위험의 정체
02 AI 원칙의 수립
03 신뢰성과 안전성
04 원칙에서 실천으로
05 기술 규제의 부상
06 위험 기반 AI 규제
07 한국의 AI 규제
08 AI 혁신과 규제
09 AI 전략과 규범
10 AI 위험의 미래

박도현 GIST(광주과학기술원) AI대학원 조교수다. 서울대학교에서 경제학 학사, 법학 전문석사, 법학 박사학위를 받았다. 제5회 변호사시험을 합격했다. 박사학위 논문("인공지능과 해악: 창발적 해악론을 중심으로")으로 제6회 홍진기법률연구상 대상을 수상했다(2021). 서울대학교 컴퓨터공학부에서 'AI와 법' 과목을 강의했다(2021∼2023). 과학기술정보통신부 인공지능 법제정비단 및 적극행정위원회, 전라남도자치경찰위원회 위원을 역임했거나 하고 있다. 주요 저서로 『포스트 챗GPT』(공저, 2023), 『인공지능 시대의 개인정보 보호법』(공저, 2022), 『인공지능 원론』(공저, 2021)이 있다. 주요 논문으로 "Automated decision-making in South Korea"(교신, 2024), "인간 편향성과 인공지능의 교차"(단독, 2022) 등이 있고, 약 20편의 논문을 KCI, SCIE, SSCI 등 등재학술지에 게재했다.