AI 자율 무기(AI 문고)

AI가 방아쇠를 당길 때, 책임은 누구에게 있는가
자율 무기는 더 이상 미래의 가정이 아니다. 드론, 지능형 무인 로봇, 센서 기반 타격 시스템은 이미 감시와 표적 식별, 공격 실행의 상당 부분을 알고리즘에 맡기고 있다. 문제는 속도나 정밀성이 아니라 판단이다. 인간의 생사 결정이 기계로 이전되는 순간, 전쟁법과 인권법은 오래된 전제를 잃는다. 명령한 인간, 설계한 기업, 배치한 국가, 실행한 알고리즘 사이에서 책임은 흩어지고, 피해자는 누구에게도 온전한 책임을 묻기 어려워진다. 이러한 상황에서, 자율 무기를 단순한 군사 기술이 아니라 법적·윤리적 경계에 선 존재로 다룬다. 국제인도법의 구별 원칙과 비례성 원칙, 제네바협약 제1추가의정서 제36조의 무기 검토 의무, 국제인권법의 생명권 보호, 의미 있는 인간 통제의 조건을 촘촘히 검토한다. 또한 군비 경쟁, 이중 용도 기술, 비국가 행위자의 무장 가능성, 평시 감시와 치안 영역으로의 확장까지 살핀다. 기술 통제가 가장 절실한 군사 AI가 법의 예외로 밀려나는 현실도 짚는다. 이 책의 질문은 분명하다. AI가 생명을 판단하는 시대에 인간의 법은 그 결정을 통제할 수 있는가. 자율 무기를 예외로 둘 것인가, 책임과 존엄의 규범 안에 묶을 것인가. 답은 기술이 아니라 사회의 선택에 달려 있다.

자율 무기와 인권의 딜레마

01 자율 무기의 개념, 분류, 기술적 경계
02 자율 무기와 국제인도법
03 자율 무기의 합법성 판단 기준
04 자율 무기 시대의 형사·민사·국가 책임 구조
05 생사 결정의 주체에 대한 도덕적 고찰
06 자율 무기의 통제 모델
07 자율 무기와 새로운 군비 경쟁
08 자율 무기와 국제인권법
09 사전 윤리 심사와 사후 책임 시스템
10 자율 무기에 대한 외교·정책 전략

김윤명 전 디지털정책연구소(DPI) 소장이다. 남도의 니르바나, 땅끝 해남에서 태어났다. 광주 인성고등학교와 전남대학교 문헌정보학과를 졸업하고 경희대학교에서 지식재산법을 전공해 박사 학위를 받았다. 현재 세종사이버대학교에서 정보보호학을 공부하고 있다. 네이버에서 정책수석을, 소프트웨어정책연구소(SPRi)에서 소프트웨어와 인공지능 법제 연구를, 국회에서 보좌관을 맡아 입법과 정책을 다루었다. 이재명 경기도지사 캠프와 인수위인 새로운경기위원회, 그리고 이재명 대통령 후보(20대, 21대) 캠프에서 활동했다. 대통령소속 국가지식재산위원회 AI-IP 특위에서 AI 시대에 변화하는 지식재산의 지형을 함께 그렸다. 경희대학교 법무대학원에서 '인공지능법'을, 전남대학교 데이터사이언스대학원 '데이터사이언스 법과 윤리'를 강의하며 다음 세대를 준비하고 있다. 《블랙박스를 열기 위한 인공지능법》은 교육부 우수학술도서로, 《게임법》, 《게임서비스와 법》, 《인터넷서비스와 저작권법》은 문화체육관광부 세종도서(우수학술도서)로 선정되었다. 시를 짓고 사진을 찍는다. 두 아이의 강하중학교에서 발간한 시집 《나에겐 비도 맛있다》에 몇 편의 시를 담았다. 아내와 아이들, 그리고 시고르자브종 리카와 밴, 동네 골목, 바람과 하늘, 꽃과 나무 등 세상의 모든 숨결이 렌즈에 깃든다. 사람들의 짠하고도 아심찬한 풍경을 기록한다. 시집을 내고 사진 갤러리를 여는 것이 꿈이기도 하다. 집 안에 '도서관N'을 세웠다. 정사서 1급 자격증을 가지고 있지만 도서관장은 아내다. 'N'은 네이버와 한게임의 합병법인 NHN(Next Human Network)에서 따온 'Next'를 의미한다. "도서관엔(N) 뭐가 있을까? 도서관엔(N) 길이 있지! 도서관 다음엔(N) 뭘 만들지?" 이런 장난스러운 물음 속에 세상을 향한 다음 걸음을 품는다. 언젠가 모두를 위한 더 큰 도서관N을 짓겠다는 꿈을 품고 있다. AI를 비롯한 디지털 법제와 정책을 연구하기 위해 양평에 '디지털정책연구소'를 세웠다. 인연은 digitallaw@naver.com을 통해 이어질 수 있다.