기술은 우리를 구원하지 않는다(반양장)

■ SF 영화로 우리 시대의 기술을 다시 묻다
기술에 휘둘릴 것인가, 기술을 길들일 것인가?
생각의 문을 여는 기술철학 입문서

기후위기와 전쟁, 생태계 파괴와 인공지능 무한경쟁. 우리는 이 위기의 한가운데에서 늘 '기술'과 마주한다. 그런데 정말로 기술은 위기에서 우리를 구원할 수 있을까? 마치 불타는 집 앞에서 미래의 기술이 언젠가 그 불을 꺼주기를 열렬히 기다리고 있는 형국은 아닐까?

『기술은 우리를 구원하지 않는다』(부제: 영화로 읽는 기술철학 강의)는 이 물음에서 출발한다. 기술문화연구자 박승일은 기술을 한낱 중립적 도구나 수단으로 여기는 익숙한 관점에서 벗어나, 기술 자체를 깊이 사유하고 현재의 기술 환경에 질문을 던질 것을 제안한다. 기술이란, TV를 켜고 끄듯 마음먹은 대로 처분할 수 있는 대상이 아니라, 우리의 존재와 세계를 바꾸는 강력한 힘이기 때문이다. 인공지능이라는 새로운 기술이 삶 한복판에 들어선 지금, 우리는 그 어느 때보다 기술을 성찰하는 '철학'이 필요하다.

이 책은 난해한 철학책에 갇히지 않고 SF 영화를 통해 오늘의 기술을 다시 묻는다. SF 영화는 기술을 낯설게 바라보게 하고 철학적 물음을 생활세계로 끌어내는 사유의 촉매제가 된다. 저자는 세탁기에서 인공지능까지, 〈트루먼 쇼〉에서 〈아바타 2〉까지 다양한 사례를 넘나들며 기술에 대한 무분별한 열광이나 막연한 공포가 아니라 비판적 개입과 공존의 가능성을 조명한다.

'기술 최대주의' '기술 최소주의' '기술 개입주의'라는 사회적 담론을 살펴보고, 인공지능을 둘러싼 쟁점을 기술철학과 미디어이론, 윤리학과 정치경제학으로 분석하며, 스마트폰, 플랫폼, 알고리즘 등 일상에 스며든 기술과의 관계를 촘촘히 들여다본다. 이를 통해 기술을 길들이고 방향을 설정하는 실천적 방안을 제시한다. 기술이 우리를 구원하지 않는다면, 우리를 위기에서 구원하는 것은 우리 자신의 부단한 개입과 실천일 수밖에 없기 때문이다.

■ "기술은 우리를 구원하지 않는다.
어떻게 살아갈지를 결정하는 것은 결국 우리의 몫이다."

인공지능 시대에 가장 필요한 전문가는 누구일까? 기술이 불러올 윤리적, 사회적 파장 앞에서, 우리에게는 기술을 성찰하고 방향을 제시할 '기술철학자'가 필요하다. 기술문화연구자 박승일의 신작 『기술은 우리를 구원하지 않는다』는 기술 연구의 새로운 시각을 제시했던 『기계, 권력, 사회』 이후 4년 만에 쓴 책이다. 이번 책은 SF 영화를 통해 기술철학을 풀어낸 교양서로, 대중강연 형식으로 서술되어 누구나 쉽게 읽을 수 있다.

왜 하필 SF 영화일까? 기술철학책을 읽는 것은 어려운 일이지만, SF 영화를 보고 기술에 대해 질문을 던지는 쉬운 접근법도 가능하기 때문이다. 저자는 〈터미네이터 2〉와 같은 할리우드 액션 영화에서도 얼마든지 기술철학을 배울 수 있다는 것을 보여준다. 무엇보다 저자는 기술에 대한 질문을 더 이상 전문가나 기술자에게만 맡기지 않는다. 어떻게 기술과 함께 살아야 할지를 묻는 것은 우리 모두의 몫이다.

이 책은 기술에 대한 인간의 개입과 관여를 주장하고 이를 정당화하는 데 초점을 맞춘다. 기술 최대주의에 대한 치열한 담론 투쟁을 통해(1부), 인공지능 개발 과정에 대한 법적, 제도적, 사회적 제어를 통해(2부), 일상의 기술 실천에 대한 지속적인 비판을 통해(3부), 인간 개입의 여지를 계속해서 확보하여 기술이 인간의 손을 떠나 폭주하지 않도록 해야 한다는 것이다. 우리는 기술을 길들이고 방향을 설정할 수 있어야 한다. 이 책은 SF 영화라는 익숙한 언어로 건네는 기술철학의 초대장이자 기술 비평과 사회 비평을 잇는 징검다리로서, 기술에 대한 절망도 희망도 아닌, 기술에 대한 올바른 개입의 가능성을 고민하는 책이다.

■ 기술을 둘러싼 사회적 담론들 - 1부 최대주의, 최소주의, 개입주의

1부는 기술을 둘러싼 사회적 '담론들'에 주목한다. 기술은 언제나 특정한 말들의 집합, 곧 담론을 통해 우리에게 도달한다. 인공지능을 떠올려보자. 우리는 기술 자체보다도 먼저, 인공지능을 둘러싼 낙관과 비관, 유토피아와 디스토피아의 말들에 노출된다. 기술은 그렇게 '담론'을 통해 우리에게 도착하고, 바로 그 지점에서 담론들 간의 갈등과 투쟁이 시작된다.

저자는 기술 담론을 세 가지 유형으로 구분한다. '기술 최대주의'는 기술의 발전이 지금의 위기로부터 우리를 구원해 줄 것이기에 기술 발전을 더욱 극대화해야 한다고 주장한다. '기술 최소주의'는 맹목적인 기술 발전과 자본주의가 위기를 초래했기에 그 정도를 최소화해야 한다고 본다. 이에 비해 '기술 개입주의'는 기술 찬양도 기술 부정도 아닌 기술에 대한 개입과 통제, 곧 기술 길들이기를 주장하며 인간의 개입 가능성을 모색한다. 이 세 담론은 단순한 의견 차이가 아니라 기술을 둘러싼 세계관의 충돌이며, 미래의 지형을 좌우하는 싸움이다.

이 책은 세 담론의 요점과 한계를 함께 살피면서, 무엇이 최선의 선택지가 될 수 있는지 짚어본다. 〈아바타 2〉를 통해서는 최대주의의 맹목성과 최소주의의 공허함을 비판하고, 〈엘리시움〉을 통해서는 기술적 해법의 가능성과 더불어 그 불가능성에 대한 성찰을 요구한다. 나아가 〈돈 룩 업〉을 통해서는 기술 개입주의 자체에 대해서도 비판을 제기한다. 여기서 SF 영화는 기술 담론의 흐름을 읽고 이 시대의 기술적 상상력을 짚는 이정표 역할을 한다.

■ 인공지능에 어떻게 개입할 것인가 - 2부 인공지능과 파스칼의 내기

2부는 오늘날 가장 현실적이고도 논쟁적인 기술, 인공지능을 본격적으로 탐색한다. 저자는 고전적 사고실험인 '파스칼의 내기'를 변형하여 '인공지능 의식 내기'라는 새로운 사고실험을 제안한다. 파스칼이 신의 존재 여부가 불확실하더라도 신을 믿는 쪽이 더 합리적이라고 주장했듯, 저자는 인공지능이 의식을 가질 가능성 역시 불확실하더라도 오히려 지금부터 대비하는 것이 더 합리적인 태도라고 말한다. 이는 기술이 사회에 끼칠 잠재적 효과와 위험에 주목하자는 실천적 요청이다.

저자는 인공지능 연구의 두 거장, 제프리 힌턴과 얀 르쿤의 상반된 입장을 비교한다. 힌턴은 인공지능이 인간 지능을 초월할 수 있다고 경고하며 개발 중단을 주장하지만, 르쿤은 인공지능에 대한 공포는 과장된 환상일 뿐이며 개발을 멈춰서는 안 된다고 주장한다. 그러나 기대값의 비대칭성, 즉 최악의 위험에 대한 불확실성이야말로 인간의 개입이 요구되는 이유다. 결국 우리는 인공지능이 의식이 가질 가능성을 믿기 때문이 아니라, 오히려 모르기 때문에 대비하고 미리 개입해야 하는 것이 아닐까?(157쪽 이하)

저자에 따르면, 인공지능은 무엇보다 '기술에 대한 기술' 또는 '기술을 낳는 기술'로 특징지을 수 있다. 인공지능은 개별 문제를 해결하고 특정 작업을 자동화하는 등의 표면적 또는 일차적 기술을 '넘어서', 오히려 기술 자체의 작동과 발전을 재구성하고 촉진하는 역할을 수행하기 때문이다. 말 그대로 기술을 가능케 하는 기술이고, 기술 너머의 기술인 셈이다.(279쪽)

따라서 인공지능을 둘러싼 쟁점을 이해하려면 기술철학과 미디어학은 물론이고 윤리학과 정치경제학에 이르는 다양한 관점이 필요하다. 저자는 먼저 현재의 인공지능 발전 상황과 미래의 궤적을 비판적으로 조명하고(2부 1장), 인공지능이 의식을 가질 수 있는지, 또 인간의 개입이 가능한지를 논의한다.(2장) 그 다음으로는 인공지능이 마치 핵분열 연쇄 반응처럼 앞으로의 사회에 거대한 도미노 효과를 일으킬 수 있음을 분석하고(3장), 인공지능을 '지능'으로서만이 아닌 '사회성'의 측면에서 분석하면서 인간과의 관계를 질문한다(4장). 마지막으로는 인공지능을 자본주의 정치경제학이라는 더 큰 맥락 속에 넣어 기술과 자본, 국가, 지구라는 거시적 차원과 관련지어 검토한다.(5장)

■ 일상의 기술을 비판적으로 다시 보기 - 3부 (비)인간, 기술, 사회

3부는 다시 '지금 여기'의 일상으로 되돌아온다. 거대 기술 담론(1부)과 인공지능 문제(2부)를 지나, 우리가 매일 접속하고 사용하는 인터넷, 스마트폰, 플랫폼, 유튜브 같은 미디어 기술을 정면에서 다룬다. 일상에 깊숙이 침투한 이 기술들은 단순한 도구가 아니라, 우리의 감각과 행동, 판단과 정치성까지 구성하는 권력 장치로 작동한다. 특히 2024년 12월 3일에 벌어진 한국의 비상계엄 사태에서 대통령의 유튜브 중독이 차지한 몫은 상징적이다.

저자는 '환경관리권력'과 '정신관리권력'이라는 개념을 도입하여 이런 문제를 설명한다.(300쪽) 환경관리권력은 플랫폼 환경을 구성하고 통제하는 권력을, 정신관리권력은 알고리즘을 통해 감정과 인지, 정치적 선택을 조율하는 정서적 권력을 가리킨다. 이러한 권력은 강제적 명령이 아니라, 자유롭게 보이는 환경을 통해 은밀히 우리를 지배한다는 점에서 부단한 경계가 필요하다. 이렇듯 3부는 미래의 위험뿐만 아니라 현재 기술 환경에 대한 무감각이야말로 기술에 대한 성찰과 개입을 통해 가장 먼저 응답해야 할 문제임을 강조한다. 결국 저자는 이렇게 묻는다. 우리가 매일 접속하고 사용하는 이 기술적 일상은 누구를 위한 것인가? 이 기술적 환경에서 살아간다는 것은 무엇을 의미하며, 우리는 거기에 어떻게 개입할 수 있을 것인가?

■ 희망도 절망도 아닌, '이중의 개입'의 자리에서 - 끝날 때까지는 끝난 게 아니다

오늘날의 기술적, 생태적 위기에 대해 사람들은 두 가지 상반된 반응으로 대응한다. 하나는 '기술이 언젠가 우리를 구원하리라'는 믿음, 다른 하나는 '아무리 애써도 늦었고 소용없다'는 냉소와 절망이다. 하지만 저자는 이 둘 사이의 좁은 틈, 희망도 절망도 아닌 사이의 공간에서 개입의 윤리와 정치를 사유해야 한다고 말한다. 그것이 이 책 전체에 걸쳐 주장해온 '개입주의'의 철학적 핵심이다.

기술은 문제다. 하지만 기술은 또한 우리가 세계에 개입할 수 있는 접점이기도 하다. 중요한 것은 기술에 의해 구원받는 것도, 기술을 전면 부정하는 것도 아니다. 바로 기술과 함께, 그리고 기술에 대해 비판적으로 개입하는 "이중의 개입"(82쪽)이다. 이 책의 마지막 장, 에필로그는 책 전체를 관통하는 하나의 명확한 메시지로 귀결된다. "우리는 우리가 처한 상황 속에서 다만 우리가 할 수 있는 일을 최선을 다해야 한다."(423쪽) 이는 단순한 교훈이 아니라, 위기와 냉소, 무기력과 과잉신뢰 사이에서 방향을 잃은 지금 여기의 우리에게 건네는 실천적 제안이다.

프롤로그: 영화로 기술 읽기, 기술로 영화 읽기

1부 최대주의, 최소주의, 개입주의
1 〈아바타 2〉
최대주의가 맹목적이라면 최소주의는 공허합니다.

2 〈터미네이터 2〉
우리는 우리가 처한 상황 속에서
다만 우리가 할 수 있는 일을 최선을 다해 할 뿐입니다.

3 〈엘리시움〉
기술적 해법의 가능성만큼이나
그 불가능성에 대한 사유와 성찰이 필요합니다.

4 〈노 임팩트 맨〉
기술 거부가 답이라고 믿는 기술 최소주의
또한 낭만적인 것은 매한가지입니다.

5 〈돈 룩 업〉
그렇다면 비판은 개입주의 자체에 대해서도 행해져야 합니다.

2부 인공지능, 인간, 로봇
1 〈트랜센던스〉
진짜 문제란 무엇일까요?
인간의 개입이 점점 더 불가능해지고 있다는 겁니다.

2 〈아이, 로봇〉
인공지능은 의식을 가질 수 있나요?
"바보야, 문제는 의식이 아니라 개입이야!"라고 말해야 합니다.

3 〈오펜하이머〉
원자폭탄이 그러했듯 인공지능이야말로 현재의 시작점이며
우리는 그때와 똑같이 실패해서는 안 됩니다.

4 〈핀치〉
인공지능의 지능이 아무리 높아져도
그것으로 사회성을 대체할 수는 없습니다.

5
인공지능 삼각동맹도
지구라는 터전 없이는 아무런 의미가 없습니다.

3부 (비)인간, 기술, 사회
1 〈트루먼 쇼〉
바깥 없는 세계에서 안으로부터 저항하기,
이 저항의 가능성을 믿습니다.

2 〈접속〉
1997년의 우리는 이전과는 다른 우리가 되어 가고 있었던 겁니다.

3 〈레디 플레이어 원〉
미래는 이미 시작됐습니다. 다만 아직 결정되지 않았을 뿐입니다.

4 〈월-E〉
우리는 어떻게 세계의 우연과 마주칠 수 있을까요?
우리는 어떻게 인간이 될 수 있을까요?

5 〈나는 전설이다〉
인간 없는 세계를 사유하는 한에서만
인간 없는 세계를 유예시킬 수 있습니다.

6 〈일라이〉
책은 사라질 것입니다. 그러나 세계는 계속되어야 합니다.

에필로그: 끝날 때까진 끝난 게 아닙니다.

주
찾아보기

박승일 서강대학교 기계공학과를 졸업하고 같은 대학 신문방송학과 대학원에서 문화연구로 석사와 박사학위를 받았다. 현재 서강대 미디어융합연구소 책임연구원으로 재직 중이며, 독립 연구단체 '캣츠랩'에서 소장으로 활동하고 있다. 지금까지 기술문화연구와 기술철학, 비판이론에 중점을 두고 학제적인 연구를 진행해 왔으며, 최근에는 인공지능, 포스트휴먼, 신유물론 등에 관심을 갖고 공부와 저술 작업을 진행 중이다. 그동안 인터넷과 권력, 권력과 저항, 포스트 인터넷, 인공지능 철학 등에 관한 논문을 썼고, 저서로는 『기계, 권력, 사회』와 『기술은 우리를 구원하지 않는다』가 있다. 공학과 사회과학, 인문학을 아우르는 공부의 가능성에 대해 고민하고 있다.