AI 생애 주기와 법의 재구성(AI 문고)

데이터 수집부터 언러닝까지, 법은 AI의 시간을 따라가야 한다
AI는 완성된 물건처럼 사회에 나타나지 않는다. 데이터가 수집되고, 정제되고, 모델이 설계되며, 학습과 검증을 거쳐 서비스로 배포된다. 이후에는 자동화된 의사 결정, 사용자 프롬프트, 생성물의 2차 활용, 폐기와 재학습까지 이어진다. 저자는 AI를 정적인 규제 대상으로 보아 온 법의 시각을 바꾸고, 기술이 움직이는 시간의 흐름 속에서 권리와 책임을 다시 배치한다.
현행 법 제도는 대체로 문제가 발생한 뒤 책임을 묻는 사후 규제에 익숙하다. 그러나 AI는 피해가 드러난 순간보다 훨씬 이전의 단계에서 이미 위험을 품는다. 데이터 수집 단계의 개인정보와 저작권 충돌, 전처리 과정의 편향과 차별, 모델 설계자의 책임, 학습 과정의 저작물 이용, 검증 단계의 안전성, 배포 이후의 설명 가능성은 서로 분리된 문제가 아니다. 한 단계의 결함은 다음 단계의 판단과 결과물에 누적된다. 이에 따라 AI의 전 과정을 10단계로 나누어 법적 쟁점을 추적한다. 데이터 수집에서는 비식별화의 한계와 웹 크롤링의 합법성을, 전처리와 정제에서는 차별과 편향의 내재화를, 모델 설계와 학습에서는 책임 귀속과 저작권 침해 문제를 다룬다. 검증과 배포 단계에서는 안전성 테스트와 설명 가능성을, 의사 결정 단계에서는 인간 개입과 이의 제기권을 살핀다. 이어 사용자 인터페이스에서는 프롬프트 책임을, 생성물 활용에서는 저작권 귀속을, 폐기와 재학습에서는 잊힐 권리와 모델 언러닝을 검토한다. 핵심은 법을 기술 뒤에 따라붙는 처벌 장치로 보지 않는 데 있다. 법은 AI의 설계와 운영, 사용과 폐기 과정에 함께 개입해 권리 보호와 사회적 신뢰를 구성해야 한다. AI 규제를 단편적 금지나 허용의 문제가 아니라, 생애 주기 전체를 따라 움직이는 규범 설계의 문제로 제시한다.

AI 생애 주기에 따른 법의 적용

01 데이터 수집 단계: 개인정보, 저작권 보호와 충돌
02 데이터 전처리·정제 단계: 차별과 편향 내재화
03 모델 설계 단계: 기술 설계와 책임 귀속
04 모델 학습 단계: 저작권 침해와 TDM 예외
05 모델 검증 및 시험 단계: 안전성과 책임 테스트
06 서비스 배포 단계: 설명 가능성과 투명성 요구
07 AI 의사 결정 단계: 자동화된 결정과 권리 침해
08 이용자 인터페이스 단계: 프롬프트와 책임 교차
09 2차 사용 단계: 생성물의 저작권과 법적 귀속
10 폐기와 재학습 단계: 데이터 제거권과 잊힐 권리

김윤명 전 디지털정책연구소(DPI) 소장이다. 남도의 니르바나, 땅끝 해남에서 태어났다. 광주 인성고등학교와 전남대학교 문헌정보학과를 졸업하고 경희대학교에서 지식재산법을 전공해 박사 학위를 받았다. 현재 세종사이버대학교에서 정보보호학을 공부하고 있다. 네이버에서 정책수석을, 소프트웨어정책연구소(SPRi)에서 소프트웨어와 인공지능 법제 연구를, 국회에서 보좌관을 맡아 입법과 정책을 다루었다. 이재명 경기도지사 캠프와 인수위인 새로운경기위원회, 그리고 이재명 대통령후보(20대, 21대) 캠프에서 활동했다. 대통령소속 국가지식재산위원회 AI-IP 특위에서 AI 시대에 변화하는 지식재산의 지형을 함께 그렸다. 경희대학교 법무대학원에서 '인공지능법'을, 전남대학교 데이터사이언스대학원 '데이터사이언스 법과 윤리'를 강의하며 다음 세대를 준비하고 있다. 《블랙박스를 열기 위한 인공지능법》은 교육부 우수학술도서로, 《게임법》, 《게임서비스와 법》, 《인터넷서비스와 저작권법》은 문화체육관광부 세종도서(우수학술도서)로 선정되었다. 시를 짓고 사진을 찍는다. 두 아이의 강하중학교에서 발간한 시집 《나에겐 비도 맛있다》에 몇 편의 시를 담았다. 아내와 아이들, 그리고 시고르자브종 리카와 밴, 동네 골목, 바람과 하늘, 꽃과 나무 등 세상의 모든 숨결이 렌즈에 깃든다. 사람들의 짠하고도 아심찬한 풍경을 기록한다. 시집을 내고 사진 갤러리를 여는 것이 꿈이기도 하다. 집안에 '도서관N'을 세웠다. 정사서 1급 자격증을 가지고 있지만 도서관장은 아내다. 'N'은 네이버와 한게임의 합병법인 NHN(Next Human Network)에서 따온 'Next'를 의미한다. "도서관엔(N) 뭐가 있을까? 도서관엔(N) 길이 있지! 도서관 다음엔(N) 뭘 만들지?" 이런 장난스런 물음 속에 세상을 향한 다음 걸음을 품는다. 언젠가 모두를 위한 더 큰 도서관N을 짓겠다는 꿈을 품고 있다. AI를 비롯한 디지털 법제와 정책을 연구하기 위해 양평에 '디지털정책연구소'를 세웠다. 인연은 digitallaw@naver.com을 통해 이어질 수 있다.