생각을 기계가 하면, 인간은 무엇을 하나?

얄팍한 답을 내놓지 않는다.
진지하게 질문한다. 갈피를 잡아준다.

우리 인간의 활동이 우리 인간의 안녕과 행복에, 그리고 우리가 사는 이 지구의 운명에 큰 역할을 하지 못하는 '인간 곁다리화'가 우리 앞에 다가와 있다. 미래의 공장은 지칠 줄 모르는 로봇 기술자가 인간을 대신해 근무하는 곳이 될 것이다. 미래의 병원은 의사의 수가 대폭 줄어들고, 환자를 진단하고 치료법을 추천하는 클라우드 기반의 AI에 더 많이 의존하게 될 것이다. 미래의 가정은 우리의 욕구와 필요를 예상하고 우리가 바랄 수 있는 모든 음식과 오락거리를 항상 제공할 것이다.

이 책은 "자동화된 미래가 두려움의 대상이 아닌, 환영 받는 것이라면 어떨까?"라는 질문을 던진다. 그리고 이런 자동화 기술을 절망으로 받아들일 것이 아니라 낙관론을 펼 수 있는 새로운 기회로 받아들여야 한다는 주장을 펼친다. 즉 인간 곁다리화를 촉진하는 자동화 기술을 올바르게 사용한다면 우리 인간에게 새로운 유토피아의 가능성이 열리고, 더욱 윤택하고 뜻있는 인간의 삶이 가능하다는 것이다.

그리고 이런 입장을 옹호하기 위해 네 가지 논점을 옹호한다. 첫번째 논점은 일의 자동화가 지금의 기술 발전으로 가능하고 또한 바람직하다는 것이다. 즉 모두가 그렇게 생각하지는 않지만 일은 나쁜 것이므로, 일의 영역에서 인간의 곁다리화를 촉진시켜야 한다는 것이다. 대부분의 사람들에게 일은 고통과 억압의 원천이며, 우리는 이러한 일의 종말을 앞당기기 위해 우리가할 수 있는 일이라면 무엇이든 해야 한다. 두 번째 논점은 일이 아닌 다른 삶의 영역에서는 자동화가 바람직하지 않다는 것이다. 자동화 기술이 일상생활에서 압도적인 영향을 미친다면 인간이 영위하는 삶의 뜻있음과 윤택함이 크게 위협받는 일이 일어나기 때문이다. 그러므로 이 책은 이런 위험을 제한하기 위해 기술과 우리의 관계를 신중하게 재정립해야 한다고 주장한다.

세번째 논점은 사이보그 유토피아의 가능성에 대한 것이다. 일 이외의 일상생활에서 자동화 기술로 인해 인간이 영위하는 삶의 뜻있음과 윤택함에 가해지는 위협을 제한하기 위해 기술과 우리의 관계를 처리하는 방법으로 '사이보그 유토피아'가 있다는 것이다. 네 번째 논점은 기술과 인간의 관계를 처리하는 또 다른 방법으로 '가상 유토피아'가 있다고 말한다. 사이보그화를 통해 인간을 기계의 앞으로 나아가게 하는 대신, 기술 인프라의 가상 세계로 인간이 물러나는 것이 바람직하다는 말이다.

이로써 이 책은 우리가 현실에서 뒤로 물러나서 가상현실에 틀어박힐 수 있다고 말한다. 우리가 게임을 발명하고 이 게임을 하며, 이전에 경험했던 어떤 것보다 더욱 심오하게 매력적이고 무척 재미있는 가상현실을 탐구하는 데 시간을 할애하여, 우리에게 이상적인 형태의 윤택함을 이룰 수 있게 하는 세상의 정당성을 주장하는 것이다. 이러한 생각은 충격적이고 심지어 혐오스럽게 보일 수도 있다. 하지만 지은이는 우리에게 이 새로운 가능성을 받아들이라고 권한다. 그는 자동화 기술의 부상이 인류에게 유토피아적 순간을 제시하며, 더 나은 미래를 건설할 동기와 수단을 제공한다고 본다.

AI와 로봇공학은 많은 이들에게 아득한 두려움을 느끼게 한다. 이는 우리가 이 AI와 로봇공학에 대해 알지 못하기 때문이다. 단순히 기술적인 측면을 알지 못하기 때문만이 아니다. 우리는 종종 이 기술에 대해, 인간 존재로서 (예를 들면 윤리적으로) 어떻게 대응해야 할지 알지 못한다고 느낀다. 이 책은 자동화 기술의 미래를 맞이하는 이들이 인간과 기술 사이에서 균형을 잡을 수 있도록 돕는다. 그러나 이 책은 자동화 기술의 미래에 대해 쉽고 빠른 답을 제시하지는 않는다. 대신 이 책은 진지하게 질문한다. 그리고 이 진지한 질문에 정면으로 맞서, 꼼꼼하게 탐구하고 끈질기게 고민한다. 이를 통해 독자에게 함께 답을 찾아보자고 제안한다.

개발자, 공학자, 비즈니스맨 등에게 이 책을 권한다. 이 책은 이들에게 새로운 아이디어와 기회를 열어줄 수 있을 것이다. 인문학, 경제학, 법학, 의학 등 다양한 분야의 학자들에게도 이 책을 추천한다. 이 책은 학자들에게 자동화 기술에 대한 제대로 된 질문과 논의를 보여줄 것이다. 무엇보다도 공공 분야에서 일하는 정책 담당자, 법률 입안자, 교사(敎師) 등이 이 책에 관심을 가져주길 기대한다. 이 책은 자동화 기술과 관련한 앞이 꽉 막힌 미로에서 길을 잃지 않고 빠져나올 가이드 맵을 제공해 줄 것이다.

1장 인류의 가을이 다가오고 있다
1.1절 인간의 곁다리화가 정말 임박해 있을까? 022
1.2절 인간 곁다리화의 과거와 현재와 미래 027
ㅡ 인간이 퇴조하는, 우울한 소리가 들린다 028
ㅡ 빠른 알고리즘이 느린 인간을 대체한다 031
ㅡ 의사, 변호사는 이미 절벽에서 뛰어내렸지만 034
ㅡ 키오스크, 챗봇, 자율주행차, 배달 드론 … 039
ㅡ 아직은 아무도 로봇 대통령을 상상하지 않지만 042
ㅡ 과학은 이제 '빅 사이언스(big science)'이다 046

2장 자동화로 인한 실업은 필연적일까?
2.1절 일, 인간이 만든 기이한 발명품 056
ㅡ 금전적 보수를 얻기 위한 모든 활동 057
2.2절 자동화는 근로자를 대체할까, 보완할까? 064
ㅡ AI와 로봇이 가진 해직 잠재력 066
ㅡ 고용이 줄지 않는다는 반박이 있지만 071
2.3절 기술 의거 실업을 재차 주장하는 이유 077
① 로봇이 일자리를 줄였다는 실증이 있다 078
② 기술 변화 속도를 따라잡지 못하는 재교육 080
③ 세상을 단숨에, 전면적으로 변화시키는 GPT 084
④ 승자 독식 시장, 또는 슈퍼스타 시장 091
ㅡ 법적 규제, 지속 불가능성에 대한 의문 092

3장 일은 인간에게 나쁜 것이다
3.1절 나 또한 내 직업을 사랑하지만 100
3.2절 일이 구조적으로 나쁜 이유 다섯 가지 104
① 자유를 침해하는 지배의 근원이다 105
② 직장 파편화와 불안정한 노동 조건 115
③ 일에 대한 보상으로서의 분배가 불공평하다 123
④ 하루 24시간, 일이 우리의 삶을 식민지로 삼는다 130
⑤ 일하는 사람들이 불행하다고 느낀다 139
3.3절 일의 나쁨 주장에 반대할 수는 있지만 142

4장 삶의 자동화는 바람직하지 않다
4.1절 윤택하고 뜻있는 삶이란 무엇일까? 152
ㅡ 주관주의 학파와 객관주의 학파의 견해 153
ㅡ 하이브리드 학파의 '알맞춤 성취 이론' 157
4.2절 세상과 인간, 자동화 기술의 관계 163
ㅡ 도끼 발명 전(前)과 후(後)의 인간은 다르다 164
ㅡ 주판, 종이와 연필, 디지털 계산기 168
4.3절 기술이 삶을 망친다는 '기술 비관론' 173
① 인간과 현실 사이의 연결 고리를 끊는다 175
② 집중 방해와 주목 조작의 문제 183
③ 우리에게 무지의 베일을 덮어씌운다 191
④ 스스로 선택할 수 있는 자율성 침해 201
⑤ 도덕적으로 능동적인 '행위성'을 억누른다 209
ㅡ 초지능형 AI의 등장, 권력 재할당 213

5장 포스트워크 유토피아를 찾아서
5.1절 유토피아를 어떻게 정의할 것인가? 224
ㅡ 모든 가능한 사회 중 가장 좋은 사회 225
ㅡ 급진적 개선이 이루어지는 '가능 세계' 230
5.2절 포스트워크 유토피아의 추가 기준 237
① 유토피아는 폭력을 낳는 경향이 있으므로 237
② 결코 닿을 수 없는, 확장되는 지평선처럼 247
③ 현재와 유토피아 사이의 문화적 격차 해소 252

6장 사이보그 유토피아에 대하여
6.1절 사이보그란 무엇인가? 누구인가? 260
ㅡ 두개골에 안테나를 이식한 사람의 정체성 261
ㅡ 기술적 사이보그, 개념적 사이보그 265
ㅡ 인간의 것도 아닌, 기계의 것도 아닌 특징 269
6.2절 사이보그 유토피아를 찬성하는 주장 278
① 현재의 가치를 보존할 뿐만 아니라 278
② 생물학적 한계를 넘어설 수 있도록 해준다 286
③ 우주 탐험을 가능하게 해준다 291
④ 집단 이후세의 존재를 보장한다 300
⑤ 인간 수명의 한계를 넘어설 수도 있다 305
6.3절 사이보그 유토피아를 반대하는 주장 310
① 노동 시장의 부정적 초경쟁을 부추긴다 310
② 인간이 기술(기업)의 노예로 전락할 수 있다 314
③ 자기반성도 없고, 자유 의지도 없고 319
④ 우주 탐험이 과연 장밋빛 미래를 가져다줄까? 325
⑤ 팔 대체와 뇌(마음) 대체는 같은 것일까? 329
⑥ 사이보그보다 로봇이 더 빨리 발전한다 339

7장 가상 유토피아는 그 유토피아인가?
7.1절 가상 유토피아는 생각보다 실용적이다 346
7.2절 완전한 가상도 없고 완전한 실재도 없다 350
ㅡ 사진 속 의자는 실재인가, 가상인가? 353
ㅡ 물리적 실재, 기능적 실재, 사회적 실재 359
ㅡ 참가자들이 가상임을 알고 있는 유토피아 368
7.3절 게임 유토피아에 대한 옹호와 반대 371
ㅡ 선택 자율성, 성취감 획득, 과정의 즐거움 376
ㅡ 게임 유토피아는 숙련의 기회를 제공한다 383
ㅡ '혼자 게임만 한다'고 생각할 수 있지만 387
ㅡ 경쟁이 없거나, 비도덕적이거나, 지루하거나 390
ㅡ 모든 도구적 활동이 사라지지는 않는다 397
7.4절 유토피아는 하나가 아니라 다수이다 402
ㅡ 각자 다르게 선택하는 가상 메타유토피아 404
ㅡ 어떻게 타인의 세뇌와 강요를 막을까? 408
ㅡ 가상 메타유토피아를 만들 수 있을까? 414
7.5절 가상 유토피아에 대한 반대 주장 420
① 인간은 '완벽한 경험 기계'에 접속할까? 420
② 비도덕성의 놀이터라는 주장에 대하여 424

존 다나허 (John Danaher)
아일랜드국립대학교(National University of Ireland) 법학과 교수이다. 첨단 AI의 위험성, 삶의 의미와 일의 미래, 인간 강화의 윤리, 법과 신경과학의 교차점, 뇌 기반 거짓말 탐지의 효용, 종교철학 등을 주제로 한 수십 편의 논문을 발표했다. 그의 글은 ≪가디언≫(The Guardian), ≪이온≫(Aeon), ≪철학자들의 매거진≫(The Philosophers' Magazine)에 실렸다. ≪자동화와 유토피아≫(2019)를 집필하고, ≪로봇 섹스 : 사회적ㆍ윤리적 함축≫(Robot Sex : Social and Ethical Implications)(2018)을 공동으로 편집했다. 그는 또한 '철학적 논쟁'이라는 블로그의 지은이이며 같은 이름의 팟캐스트를 진행하고 있다.