AI 안전(AI 문고)

AI 안전의 기준을 묻다
AI는 더 이상 기술 실험의 대상이 아니다. 사회·경제 전반에 깊숙이 스며든 AI는 효용만큼이나 위험의 파급력도 커지고 있다. 이 변화의 한가운데서 '통제되지 않는 알고리즘 권력'이라는 문제를 정면으로 다룬다. 블레츨리 선언과 서울 선언, EU AI법 등 최근의 국제 논의를 바탕으로 AI 안전을 기술 문제가 아닌 사회적·법적 과제로 확장한다. 이 책은 AI 오류를 단순한 기술 결함이 아니라 책임과 신뢰의 문제로 바라본다. 특히 블랙박스로 작동하는 AI의 의사 결정에 대해 누가, 어디까지 책임을 져야 하는지를 묻는다. 알고리즘 조작과 조정의 경계, 자율 규제의 허상, 플랫폼 사업자의 윤리 문제를 구체적 사례를 통해 분석하며, 규제는 혁신의 적이 아니라 예측 가능성을 높이는 장치임을 강조한다. AI 안전은 기술을 억제하는 논리가 아니라, 사회적 신뢰를 유지하기 위한 관리 가능한 상태를 만드는 일이다. AI 시대의 안전을 헌법적 가치, 소비자 보호, 제조물 책임, 거버넌스의 관점에서 종합적으로 정리하며, 인간이 만든 기술의 책임은 결국 인간에게 있음을 분명히 한다.

왜, AI 안전인가?

01 AI 안전과 안전권
02 AI 안전의 가치
03 AI 안전을 위한 규제 원칙
04 AI 서비스 제공 및 이용의 안전
05 AI 안전과 소비자 보호
06 설명 가능한 AI와 기술적 구현
07 AI 안전과 제조물 책임
08 AI 안전 거버넌스
09 AI 안전과 신뢰 사회
10 시사점

김윤명 전 디지털정책연구소(DPI) 소장이다. 남도의 니르바나 해남에서 태어났다. 광주 인성고등학교와 전남대학교를 졸업하고, 경희대학교에서 지식재산법으로 박사학위를 받았다. 네이버에서 정책수석으로 일했고, 소프트웨어정책연구소(SPRi)에서 SW·AI 법에 대해 연구했다. 국회에서 보좌관으로, 이재명 경기도지사 캠프 및 인수위인 새로운경기위원회에서 전문위원으로 활동하기도 했다. 대통령소속 국가지식재산위원회 AI-IP특별위원회 위원으로 활동했다. 현재 기율특허에서 연구위원으로, 법무법인원의 전문위원으로 있다. 경희대 법무대학원에서 '인공지능법'을, 전남대 데이터사이언스 대학원에서 '데이터사이언스 법과 윤리'를 강의했다. 글쓰기를 좋아해 《생성형 AI 창작과 지식재산법》, 《인공지능의 생각》, 《블랙박스를 열기위한 인공지능법》, 《게임법》, 《로보스케이프》, 《인공지능과 리걸프레임》, 《소프트웨어와 리걸프레임》, 《게임서비스와 법》,《인터넷서비스와 저작권법》 등의 책을 혼자 쓰거나 동료와 같이 썼다. 그 중 《블랙박스를 열기위한 인공지능법》은 교육부 우수 학술도서로, 《게임법》, 《게임서비스와 법》 및 《인터넷서비스와 저작권법》은 문화부 세종도서(우수 학술도서)로 선정되기도 했다. 늘 시를 짓고 사진을 찍는다. 아이들의 강하중학교에서 발간한 시집 《나에겐 비도 맛있다》에 몇 편의 시가 실렸다. 아내와 아이들과 시고르자브종 리카와 벤, 동네 풍경, 하늘, 바람, 꽃 등이 피사체가 된다. 주변의 짠하고도 아심찬한 모습도 담는다. 집에 도서관N을 두었다. 정사서 1급 자격증이 있지만 도서관장은 아내다. N의 컨셉은 네이버와 한게임의 합병법인 NHN(Next Human Network)의 Next에서 따왔다. '도서관엔(N) 뭐가 있을까?', '도서관엔(N) 길이 있지!', '도서관 다음엔(N) 뭘 만들지?' 따위의 장난스러운 도서관N으로 기억되길 바란다. 모든 이를 위해 더 큰 도서관N을 만들고자 한다.