인공지능 규제 거버넌스의 현재와 미래(포스트휴먼사이언스 7)

책의 구성과 내용

이 책의 제1부와 제2부에서는 인공지능에 대한 규제의 유력한 두 유형으로서 각각 윤리적 규제와 법적 규제를 다룬다. 각 부에서는 양자의 일반적 의의를 검토하는 한편 각각의 현황을 소개하고 분석한다. 이어 제3부에서는 인공지능 거버넌스의 이 같은 현황을 토대로 인공지능 거버넌스의 미래를 전망한다. 특히 '알고리즘 규제'를 중심으로 인공지능 거버넌스의 미래에 논쟁점이 될 중요한 사항들을 살펴본다.

1장에서는 인공지능윤리에 대해 생소할 독자를 위한 친절한 소개글이다. 특히 편향, 차별, 불공정성이라는 주제를 중심으로 인공지능윤리의 일반적 의의와 주요 쟁점을 개괄한다. 2장은 독일의 기술윤리학자 틸로 하겐도르프의 논문을 번역했다. 이 글에서 저자는 인공지능윤리의 일환으로 불리는 기존의 많은 시도에 대한 메타윤리학적 분석을 시도함으로써 지난 몇 년간 개발되어 온 인공지능 윤리가이드라인의 공통 사항이 무엇인지, 그리고 핵심적으로 결여하고 있는 바가 무엇인지를 밝히고 있다. 가령 저자에 따르면 대다수의 윤리가이드라인에서는 정의 및 윤리에 관한 '남성적' 사고방식을 반영함으로써 양육이나 도움, 복지, 사회적 책임, 생태적 네트워크와 같은 맥락은 거론되지 않았다고 지적한다.
한편 3장에서는 미국, 영국, 유럽연합, 일본 등 주요 국가의 인공지능 규제 정책의 현황을 소개하며 4장은 인공지능 규제 방안 중에서 "법제"의 현황을 짚고 있다. 특히 세계 최초의 인공지능 규제법안이라 할 유럽연합의 인공지능 규제법안과 한국의 입법 시도를 소개한다. 5장은 인공지능 규제를 알고리즘 규제로 특징짓고 알고리즘 규제에 관한 다양한 논의를 규제의 원리, 구조, 내용에 관한 측면으로 나누어 검토한다. 마지막으로 6장은 인공지능과 그 알고리즘을 대상으로 하는 법적 규제에 관한 입법이 어떻게 이루어지는 것이 타당한 것인지, 이를 위한 입법 전략은 무엇인지를 논한다.
한편 책의 '부록'에는 국내외 주요 인공지능 윤리가이드라인과 더불어 인공지능 규제와 관련된 주요 법안을 실었다. 먼저 국내외 주요 인공지능 윤리가이드라인으로 대한민국 정부가 펴낸 「국가인공지능 윤리기준」, 중국 정부 주도하에 공표된 「베이징 인공지능 원칙」, 과학기술과 인간의 미래와 관련한 민간 씽크탱크인 생명미래연구소가 공표한 「아실로마 인공지능 원칙」, 대표적 빅테크 기업 구글이 공표한 「구글 인공지능 원칙」이 담겼다. 아울러 인공지능윤리 및 규제와 관련한 주요 법안들로는, 「유럽연합 인공지능 법안(규제안)」과 「미국 연방의회 알고리즘 책임법안」을 실었다. 그중에서 「유럽연합 인공지능 법안(규제안)」은 인공지능 일반을 규율하는 법안으로는 세계 최초로 제안된 것으로, 유럽연합 집행위원회가 주도하여 내놓은 것이다.
한편 부록에 소개된 「미국 연방의회 알고리즘 책임법안」은 2019년에 나온 것을 보완하여 최근에 새로 미국 의회에 상정된 법안이다. 이 법안은 유럽연합의 것과 달리 규율 대상을 인공지능시스템이 아니라 '자동화된 결정 시스템'(automated decision system)이라고 표현하고 있다. 따라서 이 법안은 그러한 시스템을 운용하고자 하는 기관에 대해 관련한 사회적, 윤리적, 법적 위험을 명시하고 완화하는 구체적 조치를 취하도록 제안한다.

책을 펴내며
편저자 서문
서론

1부 인공지능 규제의 현재 - 윤리적 규제

1장 인공지능윤리의 의의와 쟁점 _김건우
Ⅰ. 인공지능과 인공지능윤리
1. 인공지능의 시대
2. 인공지능윤리
Ⅱ. 인공지능윤리의 주요 쟁점: 개관
1. 위험 통제 및 안전성 확보
2. 책임 귀속과 책임 공백
3. 프라이버시와 정보보안
4. 데이터 주권, 데이터 민주주의, 데이터 정의
5. 데이터와 알고리즘으로 인한 편향, 차별, 불공정성
Ⅲ. 인공지능윤리의 주요 쟁점: 편향과 차별, 그리고 불공정성
1. 개요
2. 사례
3. 문제의 원천과 중요성
Ⅳ. 인공지능 규율 유형: 기본 개념
1. 규범 형식에 따른 구분: 경성규제 vs. 연성규제
2. 규율 주체에 따른 구분: 정부규제 vs. 자율규제
3. 규율 시점에 따른 구분: 사전규제 vs. 사후규제

2장 인공지능윤리의 윤리학: 윤리가이드라인에 대한 평가 _틸로 하겐도르프
1. 서론·78
2. 인공지능 윤리가이드라인
3. 인공지능의 실제
4. 인공지능윤리의 진보
5. 결론

2부 부 인공지능 규제의 현재 - 법적 규제

3장 인공지능 규제 정책에 관한 연구:
주요 국가의 규제 정책 사례를 중심으로 _윤혜선
Ⅰ. 들어가며
Ⅱ. 주요 국가의 인공지능 규제 정책
1. 미국
2. 중국
3. 영국
4. 유럽연합
5. 일본
Ⅲ. 주요 국가의 인공지능 규제 정책 분석
1. 주요 국가의 인공지능 규제 정책 특징 분석
2. 인공지능 규제 정책의 국제적 동향 분석
Ⅳ. 시사점

4장 인공지능 법제의 최신 동향과 과제 _김송옥
Ⅰ. 들어가며
Ⅱ. 유럽연합(EU)의 인공지능 관련 법제 동향
1. 윤리규범에서 법으로
2. 인공지능 법안의 주요 골자
Ⅲ. 우리나라의 인공지능 관련 법제 동향
1. 인공지능 정책 추진현황
2. 인공지능 관련 법률 제·개정 현황
Ⅳ. 편익의 최대화 및 위험성의 최소화를 위한 향후 과제
1. 법제의 형식적 측면
2. 법제의 내용적 측면
Ⅴ. 나오며

3부 인공지능 규제의 미래 - 알고리즘 규제와 거버넌스

5장 알고리즘 규제의 원리와 구조 _이상용
Ⅰ. 서론
Ⅱ. 알고리즘 규제의 원리
1. 규제는 어떻게 정당화되는가
2. 알고리즘 규제에는 원리적 차이가 존재하는가
Ⅲ. 알고리즘 규제의 구조
1. 신산업의 규제는 어떠한 구조를 갖는가
2. 알고리즘 규제의 구조는 어떠해야 하는가
Ⅳ. 알고리즘 규제의 내용
1. 알고리즘과 관련된 가치들
2. 알고리즘 규제의 내용은 어떻게 결정되는가
3. 의사결정의 자동화에 수반하는 규제의 특성은 무엇인가
Ⅴ. 결론

6장 알고리즘 규제와 입법 전략 _심우민
Ⅰ. 서론
Ⅱ. 인공지능과 알고리즘 규제
1. 알고리즘의 규범적 쟁점
2. 알고리즘 규제의 의미
3. 알고리즘 규제의 실천적·이론적 함의
Ⅲ. 알고리즘 규제와 입법 실천 전략
1. 알고리즘 규제의 실무적 양면성
2. 입법 유형과 규율 수준의 구분
3. 알고리즘에 대한 규제의 함의: 현실 규제의 유형
4. 알고리즘에 의한 규제의 함의: 정책 및 규제 옵션의 선택 방식
Ⅳ. 결론을 대신하여: 알고리즘 관련 입법정책을 위한 제언

부록 1
국내외 인공지능 윤리가이드라인의 현황
국가 인공지능윤리 기준 | 베이징 인공지능 원칙 |
아실로마 인공지능 원칙 | 구글 인공지능 원칙

부록 2
EU 인공지능 법안(규제안)
2022 미국 연방의회 알고리즘 책임법안

김건우 서울대학교 물리학과를 졸업하였고, 서울대학교 과학사및과학철학협동과정 대학원에서 과학철학으로 석사를, 서울대학교 법학대학원에서 법철학으로 박사 학위를 받았다. 현재 광주과학기술원(GIST) 기초교육학부 부교수(법학)로 재직하고 있다. 주된 연구 관심사는 법철학의 다양한 측면에서 법의 토대를 검토하는 것과, 인공지능 등 첨단 과학기술을 둘러싼 윤리적, 법적, 사회적 문제를 탐색하는 데에 있다. 최근에는 이 두 광대한 분야를 종합하여 인간, 사회, 자연의 구획을 넘어서는 총체적 견지에 서서, 법학과 윤리학을 포함한 규범학 일반의 탈근대적 토대를 모색하는 연구 기획에 주력하고 있다. 관련 주제로 다수의 논문을 썼으며, 역서로 프레더릭 샤워, 『법률가처럼 사고하는 법』이 있다.