AI, 헌법을 만나다

"동의합니다." 버튼을 누른 적 있는가. 앱을 설치할 때마다 마주치는 그 버튼을, 우리는 대부분 아무 생각 없이 누른다. 그 순간 나의 검색어, 위치, 소비 패턴, 심지어 감정 상태까지 어딘가로 흘러 들어간다. 이 책은 그 버튼 하나에서 시작되는 이야기다.
방송·ICT 분야 정책·행정의 현장과 헌법학 연구를 두루 거친 저자는, AI가 우리의 기본권에 어떤 영향을 미치는지를 추상적 이론이 아닌 살아 있는 사례들로 풀어낸다. MS의 AI 챗봇 '테이(Tay)'가 출시 16시간 만에 혐오 발언을 쏟아내다 서비스를 중단한 사건, 아마존이 10년간의 채용 데이터를 학습시킨 AI가 여성 지원자를 구조적으로 낮게 평가했던 사건, 2020년 코로나19 팬데믹으로 시험이 취소된 영국에서 알고리즘이 학교의 우편번호, 즉 빈부 격차를 근거로 학생들의 대학 진학을 결정했던 사건까지. 이 사례들은 모두 기술의 실패가 아니라 기본권의 위기였다.
이 책은 특히 우리가 미처 인식하지 못했던 영역에서 조용히 진행되는 권리의 위협에 주목한다. 얼굴도 모르는 '알고리즘 사장님'에게 이의를 제기할 수도, 설명을 요구할 수도 없는 배달 라이더의 현실, 코드 뒤에 숨어버린 플랫폼 기업 앞에서 단체교섭권이 사실상 무력화된 플랫폼 노동자의 처지, 자율주행차가 탑승자와 보행자 중 누구를 살릴지를 코드로 설계해야 하는 윤리적 딜레마까지. 저자는 이 모든 것이 결국 헌법 제10조의 인간 존엄, 제11조의 평등권, 제32조의 근로의 권리가 AI 알고리즘과 충돌하는 현장임을 차분하고 명쾌하게 짚는다.
그렇다고 이 책이 AI를 적으로 그리지는 않는다. 시각장애인의 눈이 되어주는 AI, 독거노인의 외로운 밤을 지키는 돌봄 로봇, 부모의 소득과 거주 지역과 관계없이 모든 아이에게 배움의 문을 여는 AI 튜터. 저자는 헌법 제127조가 국가에 과학기술 진흥을 의무로 부과하고 있음을 상기시키며, AI를 규제하는 것과 AI를 진흥하는 것이 대립 관계가 아님을 설득력 있게 논증한다. 인간의 존엄을 지키면서 기술의 혜택을 최대한 누릴 수 있도록 하는 것, 그것이 헌법이 국가에 동시에 요청하는 이중의 과제다.
미국의 AI 권리장전 청사진과 바이든·트럼프 두 행정부의 정반대 AI 정책, 세계 최초의 포괄적 AI 규제법인 EU AI 법, 그리고 2024년 12월 제정된 우리나라의 AI 기본법까지, 주요국의 입법 동향을 헌법적 시각으로 비교 분석한 대목은 이 책이 단순한 교양서를 넘어서는 지점이다.
법은 완벽하지 않다. 딥페이크를 규제하는 법이 만들어지면 기술은 이미 딥보이스로 진화해 있다. 저자는 이 구조적 한계를 솔직하게 인정하면서도, 포기하지 않는 이유를 안전벨트의 비유로 설명한다. 안전벨트가 교통사고를 막아주지는 못하지만, 사람이 차 밖으로 튕겨 나가는 최악의 결과만큼은 막아준다. 헌법도 마찬가지다. 기술의 모든 오류를 차단할 수는 없지만, 그 오류가 인간의 존엄을 파괴하는 데까지 이르지 않도록 하는 최소한의 기준이 된다.
AI를 두려워하는 사람에게도, AI를 낙관하는 사람에게도 이 책은 같은 질문을 건넨다. "이 AI는 나의 헌법적 권리를 존중하고 있는가." 이 질문 하나를 품고 세상을 바라볼 수 있다면, 우리는 이미 기술에 끌려다니는 수동적 존재가 아니라 기술의 방향을 스스로 결정하는 주권자로 선 것이다.

목차

들어가며- 오래된 나침반과 새로운 권력의 만남

1. 하나의 의문: 기술은 과연 가치중립적일까?
2. 쏟아지는 담론들, 그리고 건강한 사회의 증명
3. 새로운 권력 앞에서, 헌법이라는 나침반
4. 헌법의 경이로운 포용성
5. 모두를 위한 쉽고 재미있는 헌법 이야기

제1장 AI 시대, 우리는 어디에 서 있는가?

제1절 기술의 무한 확장, 그리고 편리함에 둘러싸인 일상
1. '도구'의 시대에서 '환경'의 시대로
2. 새로운 환경에서 헌법은 우리를 어떻게 보호할 수 있는가?
3. 헌법이 새롭게 바라봐야 할 대상- 거대 기술 기업

제2절 초연결 시대, 편리함 뒤에는 무엇이 숨어 있나?
1. 24시간 연결된 시대, 무엇이 문제인가?
2. 편리함의 대가로 우리는 무엇을 내어주고 있나?
3. 우리는 모두 유리 상자 안에 살고 있다
4. 연결되지 않을 자유, 우리에게 허락되어 있나?

제3절 데이터가 된 나, 나는 이제 상품이 되었다
1. AI는 나를 나보다 더 잘 알고 있다
2. 우리는 고객이 아니라 상품이 되었다
3. 알고리즘이 규정한 나, 그것이 진짜 나인가?
4. '동의합니다.' 버튼, 우리는 정말 동의한 것인가?
5. 데이터의 주인은 누구여야 하는가?

제4절 알고리즘이 당신의 인생을 결정한다면
1. 조언자에서 결정권자로
2. 왜 그런 결정을 내렸는지, 물어볼 수조차 없다
3. 계산은 판단이 아니다
4. 잘못되면 누가 책임지는가?

제5절 헌법과 기본권이란 무엇인가?
1. 헌법은 왜 존재하는가?
2. 기본권이란 무엇인가?
3. 기본권은 국가에게만 적용되는가?
4. 헌법은 기술의 적이 아니라 나침반이다

제2장 AI는 어떻게 우리의 권리를 위협하는가?

제1절 AI 시대, 기본권은 어떻게 위협받고 있는가?

제2절 인간의 존엄과 가치① (헌법 제10조)
1. 데이터 경제와 인간의 도구화
2. 당신의 미래, 알고리즘이 판단한다
3. 인간과 기계, 그 경계는 어디까지인가?
4. 헌법 제10조, 인간을 지키는 근본 원칙

제3절 인간의 존엄과 가치② (생명권)
1. 죽음의 알고리즘, 누구를 살리고 누구를 죽일 것인가?
2. 생명권의 절대성과 인간의 존엄
3. 인간의 생명, AI에게 맡길 수 있는가?

제4절 평등권(헌법 제11조)
1. 편견을 학습한 기계
2. 디지털 계급(Digital Divide)의 고착화
3. 공정한 알고리즘은 가능한가?

제5절 자유권① (헌법 제16조·제17조·제19조)
1. 내 집 안방이 생중계된다(주거의 자유, 사생활의 비밀과 자유)
2. 나의 데이터가 나를 공격하다
3. 알고리즘에 의한 마음의 조종
4. 정신의 성역(Sanctuary)을 지켜라

제6절 자유권② (헌법 제21조·제22조)
1. 챗봇이 쏟아낸 혐오성 표현들
2. 조작된 진실, 딥페이크의 공습
3. 거짓말하는 인공지능, 환각(Hallucination)의 습격
4. 도둑맞은 창작과 생성형 AI

제7절 사회권: 노동, 교육, 환경의 위기(헌법 제31조·제32조·제33조·제35조)
1. 노동의 종말과 근로의 권리 위협
2. '알고리즘 사장님(Algo-Boss)'의 지시
3. 성적표 대신 운명을 받다
4. 인공지능과 환경권
5. AI 시대, 사회권의 과제

제8절 적법절차와 재판청구권(헌법 제12조·제27조)
1. 설명되지 않는 처분: 이유는 묻지 마세요
2. 인간 법관에 의한 재판을 받을 권리의 위기
3. 결과의 정확성보다 과정의 투명성을 향하여

제9절 AI 시대, 기본권의 위기와 헌법이 나아가야 할 방향

제3장 인간 중심의 AI를 위해 주요국은 어떤 노력을 했나?

제1절 미국
1. 인공지능 권리장전 청사진(Blueprint for an AI Bill of Rights)
2. 바이든 행정명령 제14110호의 실행
3. 트럼프 행정부의 AI 정책 전환

제2절 유럽연합(EU): 세계 최초의 포괄적 AI 규제법
1. 왜 이 법을 만들었을까요?
2. 누가 이 법을 지켜야 할까요?
3. 핵심 내용: 위험 기반 접근(Risk-Based Approach)
4. 법의 실효성 확보와 단계적 시행
5. EU AI ACT의 한계와 시사점

제3절 우리나라: 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 제정·시행
1. 「인공지능기본법」의 제정
2. 헌법의 시선으로 바라본 성과들
3. 헌법적 가치의 온전한 실현을 위한 과제들

제4절 주요국 AI 법제의 성과와 한계, 그리고 헌법적 대안
1. 시각의 문제: AI를 '제품'이 아닌 '인권'의 문제로 바라보아야 합니다
2. 절차의 문제: 블랙박스를 열 열쇠를 만들어야 합니다
3. 책임의 문제: AI 뒤에 숨은 인간들에게 책임을 물어야 합니다
4. 더 나은 법을 향하여: 비관을 넘어 진화로

제4장 AI 시대, 기본권 보호를 위한 헌법적 해법

제1절 AI 권력을 헌법의 틀 안으로
1. 기본권의 탄생, 그리고 진화- 국가 권력에서 시장 권력으로
2. 21세기의 새로운 리바이어던- 빅테크, 국경 없는 권력의 등장
3. 헌법은 사기업의 문 앞에서 멈추지 않는다
4. 우리 법원의 입장- 대법원과 헌법재판소의 시각
5. 국가는 어떻게 해야 하는가?
6. 강한 국가만이 자유로운 시민을 만든다

제2절 AI 시대, 기본권은 어떻게 확장되는가?
1. 기본권은 살아 있는 권리입니다
2. 헌법 해석을 통해 도출된 기본권들
3. 기본권 확장은 어떤 방식으로 이루어지는가?
4. AI는 기존 기본권으로 충분히 통제할 수 있는가?
5. 기본권 확장의 한계- 사법기관의 역할과 그 경계

제3절 AI 시대, 기본권의 신설
1. 기본권 신설의 필요성- 현행 헌법의 한계와 주권자의 결단
2. 제기되는 신설 기본권 논의- AI 시대의 새로운 기본권 목록
3. 신설 기본권에 대한 냉철한 검토- 헌법화의 타당성과 대안
4. AI 시대를 주도할 디지털 헌법을 향하여

제4절 AI 시대, 기본권 보호를 위한 제언
1. 논의의 성과와 한계
2. 세 가지 접근의 상호 보완적 관계
3. 입법·행정·사법의 역할 분담
4. 지금 우리가 해야 할 일
5. 헌법은 기술보다 느리지 않다

제5장 AI, 더 나은 삶과 더 넓은 권리를 위한 가능성

제1절 과학기술과 경제질서에 관한 국가의 헌법적 책무
1. 과학기술 혁신의 의무- 헌법 제127조
2. 과학적 혜택을 누릴 권리- AI는 모두를 위한 것이어야 한다
3. 창의적 경제활동의 보장- 헌법 제119조

제2절 AI, 사회적 약자의 날개가 되다
1. AI가 여는 새로운 감각의 문
2. 돌봄 로봇과 노인의 인간다운 생활
3. 교육 격차 해소와 교육받을 권리

제3절 AI, 더 안전하고 공정한 삶을 만들다
1. 의료 AI와 건강권의 혁신
2. 재난 예측 AI와 국가의 재해 예방 의무
3. 행정의 효율성과 국민의 편익
4. 치안과 범죄 예방

제4절 데이터 경제와 지식재산의 보호
1. 데이터의 공정한 이용과 마이데이터(MyData)의 확산
2. AI 학습 데이터와 저작권 보호
3. 데이터 독점과 플랫폼 규제

제5절 헌법이라는 두 날개, 규제와 진흥의 조화
1. 인공지능기본법의 탄생
2. 규제와 진흥은 하나의 목표를 향한다
3. 기계가 인간을 섬기게 하라- 휴먼 센트릭 AI의 헌법적 완성
4. 미래 세대를 위한 제언- 세계의 표준(Global Standard)을 향하여

제6장 AI 시대, 헌법의 한계와 우리의 과제

제1절 규제 지체의 구조적 한계
1. 달팽이와 치타의 경주
2. 딥페이크 다음은 무엇인가?

제2절 이해의 장벽- 설명할 수 없는 것을 심판할 수 있는가?
1. 투명해질 수 없는 블랙박스
2. 이유를 모르면 반박할 수 없다

제3절 책임의 공백과 민주주의의 위기
1. 법은 사고를 막는 브레이크가 아니라 생명을 구하는 안전벨트
2. 헌법이 그어야 할 마지노선- 타협할 수 없는 가치
3. 민주주의를 위협하는 알고리즘 권력

제4절 기술 발전의 최종 목적지- 속도보다 방향이 중요하다
1. 우리는 왜 이토록 숨 가쁘게 달리는가?
2. 헌법 제10조의 나침반- 인간을 행복하게 하지 못하면 실패한 기술이다
3. 살아 숨 쉬는 헌법- 1987년의 문서가 현재를 말하다

나가며- 기술은 도구이고, 방향을 정하는 것은 인간이다

이윤호 과학기술정보통신부 소속 공무원으로, 현재 전북특별자치도 지역의 전파·방송통신 행정 전반을 관장하는 전주전파관리소장으로 재직하고 있다. 방송·ICT·전파 분야 정책 및 행정의 최일선에서 오랜 경험을 쌓았다.
성균관대학교에서 박사학위(헌법전공)를 취득하였으며, 숙명여자대학교·대진대학교(대학원)에서 헌법을, 중앙대학교(대학원)에서 언론법을 강의하며 이론과 정책의 접점을 꾸준히 탐구해 왔다. 공직에서 직접 입안하고 집행해 온 방송·정보통신 정책 경험에 헌법적 통찰을 더해, 급변하는 기술 환경 속에서 법치주의와 기본권이 나아가야 할 방향을 심도 있게 연구하고 있다. 저서로는 『헌법과 방송규제』가 있으며, 「방송의 개념 및 공익적 기능에 관한 헌법적 고찰」을 비롯한 방송·ICT 법학 분야의 다수 논문을 발표하였다.
이 책 『AI, 헌법을 만나다』는 인공지능과 정보통신 기술이 제기하는 법적 쟁점들을 헌법의 시각으로 풀어낸 결과물로, 기술과 인간, 그리고 법의 조화로운 공존을 모색하는 저자의 오랜 문제의식이 담겨 있다.