인공지능의 윤리학(포스트휴먼 시대의 인공지능 철학 2)

'포스트휴먼 시대의 인공지능 철학' 시리즈 제1권 『인공지능의 존재론』(2018)의 연구성과를 바탕으로 하는 후속 연구작 『인공지능의 윤리학』이 출간되었다. 이번 권에서는 왜 인공지능의 윤리학을 논했는가? 전통적으로 윤리학이라 하면 인간의 윤리학, 엄밀히 말해 도덕적 사고와 행위의 유일한 주체인 인간의 윤리학이었다. 인간 외의 타자들은 도덕적 주체로서가 아니라 도덕적 대상으로만 간주되었다. 인간만이 도덕성과 자율성 그리고 자유의지를 지니고 있고 따라서 인간만이 행위에 대해 책임질 수 있다고 보았기 때문이다. 하지만 자기 스스로 학습을 통해 자율적으로 사고하고 행동할 줄 아는 새로운 존재자인 인공지능(로봇)의 등장은 다음과 같은 질문들을 계속해서 던져주고 있다. 인공지능(로봇)은 전통적으로 인간에게만 귀속되었던 윤리적 행위자의 지위를 가질 수 있는가, 행위자가 되기 위한 전통적 요건은 이성, 의식, 지향성, 자유의지 등인데 인공지능은 전통적인 의미의 행위자가 갖는 이러한 요건들을 충족하는가, 아니면 이제 인공지능과 같은 새로운 기술적 존재자를 포괄할 수 있는 새로운 행위자 개념이 필요한가, 인공지능과 공존하는 세상을 상상한다면 전통적인 의미의 행위자/피동자 구분을 넘어서는 새로운 도덕적 존재자에 대한 논의가 필요하지 않을까 등등. 이러한 문제들은 인공지능의 윤리학에 매우 중요한 화두들이다.
이 책은 이러한 문제의식 아래 총 3부로 구성되며, 각 부별로 내용을 간략히 소개하면 다음과 같다.

1부 인공지능의 윤리적 쟁점들에서는 일상의 중요한 몇 가지 구체적인 사례를 통해 인공지능이 제기하는 윤리적 도전이 무엇인지를 확인하고 그에 답하고자 했다. 현재 또는 가까운 미래에 윤리적으로 가장 민감한 문제를 던질 사례로 인공지능을 갖춘 자율주행자동차와 섹스로봇 그리고 자율형 군사(킬러)로봇을 선택했다. 이것들은 몸체를 지닌 로봇이지만 인공지능이 실제로 조정하고 있고, 또한 다양하면서도 일반적인 그렇지만 매우 심각한 윤리적 문제들을 제기하고 있다. 그 윤리적 문제들이 무엇인지 구체적으로 분석하고자 했다.
1장 자율주행자동차를 어떻게 규율할 것인가(고인석)는 자율주행자동차가 현실화되기 위해 선결되어야 할 규범적 문제들을 다루었다. 2장 섹스로봇의 윤리(이영의)는 인간과 섹스로봇 간의 관계를 바탕으로 섹스로봇의 정체성과 함께 섹스로봇 자체의 윤리적 정당성에 관한 문제를 다루었다. 3장 군사로봇의 윤리: 전쟁에서의 기술적 위임과 책임의 문제(천현득)는 KAIST의 보이콧 사태로 우리에게 잘 알려진 자율형 군사(킬러)로봇의 윤리적 문제들을 다루었다.
2부 윤리적 인공지능 로봇 만들기에서는 1부에서 제기된 윤리적 문제들에 대응하기 위해 윤리적으로 사고하고 행동하는 윤리적 인공지능 로봇을 만들 방안을 모색했다. 이를 위해 먼저 윤리적인 인공지능 로봇을 만들기 위해 고려해야 할 가치 또는 규범들이 무엇인지를 확인하고, 이렇게 확인되고 검토된 규범들을 갖춘 윤리적인 인공지능 로봇을 만들 방안으로 성찰의 계산 모델을 제시했다. 나아가 이러한 능력의 구현이 인공지능을 진정한 의미의 도덕적 행위자로 만들 수 있는지, 그것이 얼마나 어려운 문제인지에 대해 숙고하고자 했다.
4장 인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침(목광수)은 인공지능과 관련된 도덕 논의 중 현재 가장 많은 연구가 진행되고 있는 영역 가운데 하나인 인공적 도덕 행위자(artificial moral agent: AMA) 설계를 위해서 고려해야 할 것들이 무엇인지를 다루었다. 5장 윤리적 인공지능 로봇: 구성적 정보 철학 관점에서(박충식)는 윤리적 인공지능 로봇을 위한 핵심적인 아이디어로 성찰의 계산적 모델을 다루고 있다. 6장 인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제(이상욱)는 인공지능과 관련된 윤리적 쟁점을 해결하는 실천적 방안이 어떤 방식으로 추구될 때 가장 효과적인지를 탐색했다. '쉬운 문제'와 '어려운 문제'를 구별하고 두 종류의 문제를 순차적으로 (적어도 개념적으로라도) 다루는 방식이다.
3부 인공지능과의 공존의 윤리학에서는 인공지능의 도덕적 지위에 대한 고찰과 함께 인공지능과의 공존을 상상하기 위한 새로운 윤리학의 가능성을 검토했다. 이를 위해 전통적인 인간 중심의 책임 개념에 바탕을 둔 서구 근대 윤리학의 한계를 지적하고, 인공지능에게 책임은 아니지만 어떤 행위에 대한 설명의 책무를 부여할 수 있는 가능성을 검토했다. 또한 전통적인 의미의 행위자나 피동자 개념을 재검토하여 인공지능을 또 하나의 타자로서 볼 수 있는 가능성을 살펴보았다. 서구와는 다른 지적 전통을 발전시켜온 동양적 사유에서 새로운 가능성을 찾아보고자 했다.
7장 책무성 중심의 인공지능 윤리학 모색: 동·서 철학적 접근(이중원)은 인공지능에게도 결과에 대한 책임을 물을 수 있는 방안으로 인간 중심의 책임 개념 대신 행위자 중심의 책무 개념에 대해 탐색했다. 8장 인공지능, 또 다른 타자(신상규)는 인공지능 로봇을 중심으로 인간-기계 사이의 정서적 상호작용 및 감정적 관계의 가능성을 탐색하고 그러한 경험을 해석하고 의미화할 수 있는 한 가지 접근 방법을 모색하고 있다. 9장 인공지능 시대와 동아시아의 관계론(정재현)은 인공지능의 오작동 내지 잘못된 행위에 대한 책임이 어디에 있는가의 문제를 다룸에 있어서 동아시아의 관계론이 새로운 접근 방식을 제공함을 강조하고 있다.

인공지능이 우리와 함께 생활하는 경우 발생할 수 있는 다양한 윤리적인 문제들에 대한 인지는 이에 대한 제도적인 차원의 대응책을 선제적으로 마련하는 데 충분히 기여할 수 있다. 또한 단순히 알아서 척척 잘하는 똑똑하기만 한 인공지능의 연구·개발이 아니라, 시작부터 윤리적인 가치 규범에 의해 판단과 행동이 통제받는 도덕적 인공지능을 연구·개발하는 것은 인공지능으로 인한 사회 윤리적 문제를 최소화하는 좋은 대안이 될 수 있다. 궁극적으로 인간 개체 중심의 윤리학에 머물지 않고 관계론적 관점에서 인간과 인공지능의 긴밀한 관계에 바탕한 윤리학이 등장한다면, 이는 바로 공존의 윤리학으로서 인공지능 시대에 필요한 미래의 윤리학이라는 시대적 의의를 지닐 것이다. 하지만 이 책은 아직까지 인공지능의 '윤리학'이라 할 만큼 완성된 것은 아니다. 엄밀히 말한다면 '윤리학의 기초'에 해당한다고 말할 수 있다. 윤리학을 구성하는 데 필수적인 (인간이든 인공지능이든) 행위자의 도덕적 지위 혹은 본성에 관한 논의와 이를 지지해줄 수 있는 기존의 윤리 이론들에 대한 고찰은 어느 정도 이루어졌지만, 관계론적 관점에서 새로운 윤리학 이론을 체계적으로 구성한 것은 아니기 때문이다. 이 책의 출판을 계기로 새로운 인공지능의 윤리학에 관한 더 풍요로운 논의들이 지속적으로 이루어지길 기대해본다.

1부 인공지능의 윤리적 쟁점들
1장 자율주행자동차를 어떻게 규율할 것인가 _고인석
2장 섹스로봇의 윤리 _이영의
3장 군사로봇의 윤리: 전쟁에서의 기술적 위임과 책임의 문제 _천현득

2부 윤리적 인공지능 로봇 만들기
4장 인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침 _목광수
5장 윤리적 인공지능 로봇: 구성적 정보 철학 관점에서 _박충식
6장 인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제 _이상욱

3부 인공지능과의 공존의 윤리학
7장 책무성 중심의 인공지능 윤리학 모색: 동·서 철학적 접근 _이중원
8장 인공지능, 또 다른 타자 _신상규
9장 인공지능 시대와 동아시아의 관계론 _정재현

고인석 서울대학교 물리학과와 연세대학교 대학원 철학과를 졸업하고, 독일 콘스탄츠 대학에서 박사 학위를 받았다. 현재 인하대학교 철학과 교수로 재직 중이다.