이진경 장병탁의 선을 넘는 인공지능

★★인공지능에 관한 가장 이상적이고 현실적인 책★★
★★철학자와 공학자의 지적 콜라보레이션★★
★★뇌과학자 장동선 박사 강력 추천!★★

2022년 11월 공개된 ChatGPT는 그동안 어떤 인공지능도 보여주지 못한 '그럴듯함'으로 전 세계인을 놀라게 했고, 그 후 이를 수많은 매체에서 앞다투어 다루며 장밋빛 미래를 예고했다. 물론 ChatGPT의 퍼포먼스가 지금까지 나온 범용 인공지능(AGI) 중 가장 뛰어나다고 할 수 있지만, 텍스트나 이미지 등 기존에 있는 (빅)데이터를 학습하고 이를 기반으로 결과물을 생성하는 기존 인공지능 메커니즘을 따르기 때문에, 신뢰성, 편향성, 조작 가능성 등의 이슈가 여전히 존재한다. 또한 기계가 인식할 수 있도록 각각의 정보에 레이블을 일일이 달아줘야 하는 번거로운 과정 또한 필요하다. 이를 극복할 수 있는 방법은 없을까? 장병탁 교수는 인간의 학습 방법에서 그 실마리를 찾는다. 그는 현재 인공지능 기술이 인간의 신경망을 모방해 놀라운 발전을 이뤄냈지만, 인간과 같은 방식으로 학습하는 것은 아니라고 강조한다. 딥러닝이라고 흔히들 알고 있는 인공신경망은 인간이 인지하고 학습하고 기억하는 수많은 방식 중 하나를 차용한 것일 뿐이며, 이 과정에서 많은 정보가 유실되고 만다.

"정보 패턴이 신경망의 원리가 된 건 반복 사용되는 신경망의 연결 강도가 강화된다는 헵의 규칙 때문인데, 이것도 신경세포들을 통과한 신호가 뭔지는 모른 채 다만 자주 사용하면 연결망이 강해진다는 것만 '추상'한 거고, 많은 데이터가 망실되며 얻어진 정보죠." _p. 70

왜 인공지능에게 신체가 필요한가?
인간은 언어나 지식, 추상적 인지 기능조차 현실 속 신체를 통해서 체득한다. 우리가 '사과'라는 글자를 볼 때, 사과의 형체뿐 아니라 색깔, 맛, 식감, 향기, 감촉 등을 동시에 떠올리는 것이 그 예다. 인간은 이러한 신체 경험을 기반으로 학습하기 때문에 우리는 모호하게 대충 말해도 의사소통이 가능하다. 하지만 인공지능은 현실 속에서 체화한 언어가 아닌 기호로서의 언어만 학습하기 때문에, 통계적 확률 계산으로 그저 '그럴듯한' 결과물을 내놓을 뿐이다. 따라서 인공지능이 제대로 된 성능을 발휘하기 위해서는 무수한 변칙적인 데이터와 이를 처리하는 연산 능력이 요구된다.

"인간의 언어가 모호한 이유는 그러한 형태가 진화적으로 효율적이기 때문이에요. 로봇한테 '물 좀 줘!'를 설명하려면, '앞으로 50cm 가서, 2cm 앞에 물컵을 잡은 뒤, 여기로 이동해 와' 등을 상세하게 설정해줘야 해요. 인간은 대충 말해도 척하고 알아듣죠. 이 얼마나 효율적인가요." _p. 29

또한 인공지능과 인간의 가장 큰 차이점은 '메타 수준에서 생각할 수 있는가', 즉 '생각에 대한 생각을 할 수 있는 능력, 생각 밖에서 생각을 바라보는 능력이 있는가'다. 여기서 '밖'이란 어떤 선택이나 결정에 대한 결과가 나한테 유리한지 불리한지를 따지는 지점이며, 이는 자신의 생존을 최우선 목표로 하면서 이를 유지하기 위해 필요한 판단 체계다. 이것이 가능하기 위한 전제 조건이 '신체를 갖는 것'이다. 이런 조건이 모두 갖추어질 때 신체는 알아서 지식(데이터)을 형성하고 학습하며 사용하도록 강제한다. 두 저자는 다양한 외부 정보를 받아들이는 신체와 메타레벨에서 자신의 생존을 우선하는 목적함수를 인공지능에게 부여한다면 보다 인간 의식과 가까운 수준에 도달할 수 있다고 입을 모은다.

"진짜 인간 수준의 인공지능에 도달하기 위해서는 더 미세한 단위 수준에서 감각 데이터와 지각·행동의 연결고리들을 잇는 정보처리 능력이 뒷받침되어야 할 겁니다. 이를 위해서는 신체를 갖춘 에이전트가 중요하고요." _p. 105~106

뇌중심주의 ㆍ 인간중심주의에서 벗어난 사유
신체 기반 인공지능은 뇌중심주의, 즉 '뇌'라는 하나의 중심을 설정하고 전체를 설명하려는 오래된 관습에서 벗어나, 뇌 못지않게 신체도 인지하고 기억하며 때로는 뇌의 사고 방향을 규정하기도 한다는 최신 과학에 토대를 둔다. 두 저자의 대담이 신선하고 설득력이 있는 이유가 여기에 있다.

"우울증 환자에게 생각을 바꿔보라고 해도 안 되는 건 신체 상태와 신경전달물질이 뇌가 생각하는 방향을 규정하기 때문이죠. (…) 우리는 모두 뇌 중심주의, 뇌의 독재라는 관념에 너무 오래 길들여져 있는 게 아닌가 싶어요." _p. 75

또한 이진경 교수는 존 설의 '중국어 방 논증'을 비판하며 이때 적용된 인간중심적인 '이해'의 의미를 낱낱이 해체한다. 나아가 그는 우리가 흔히 알고 있는 '지능' '신체' '감정' '자아' 등의 의미를 비판적으로 되짚어보고, 인간은 물론 동물, 식물, 사물(기계)에게까지 공평하게 적용할 수 있도록 그 의미를 재정의하여 우리가 놓치고 있는 것들을 환기하고 사고와 가능성을 확장시킨다. 나아가 사물이 자기 능력을 모두 발휘할 때까지 계속 생존을 지속할 수 있도록 하는 '사물과의 우정'을 주장하며 소비를 부추기는 '자본의 지속 가능성' 시대에 일침을 가하기도 한다. 또한 현재 인공지능 연구에서 고려되지 않는 에너지와 자원의 과용 문제도 지적하며, ChatGPT를 시험 사용하는 것만으로도 지구 온난화를 가속화하는 결과를 불러올 수 있음을 경고한다.

"또 하나 중요한 통념은 신체란 날 때부터 타고나는 거라는 생각이에요. 나중에 외부로부터 끌어들여 장착한 것은 신체가 아니라 '도구'나 '보조물'이라고 생각하는 거죠. 그러나 그것 없이는 신체 활동이 어렵다면, 그 도구나 보조물은 신체 생존에 필수적인 일부, 즉 신체에 속하게 된 거 아닐까요?" _p. 67

"커즈와일이 말하는 특이점은 장밋빛 미래에 흠뻑 취해 1945년 전후에 찾아온 기후의 특이점을 보지 못하게 하고, 이로써 인류를 새로운 파국으로 몰고 갈 가능성이 농후한 개념 같아요. ChatGPT를 신기해하며 시험 사용해보는 것만으로도 지구 온도의 상승을 더욱 가속화할 테니까요." _p. 311~312

인공지능을 둘러싼 사유의 향연으로 들어오라
그 외에도 '인간과 인공지능은 서로 사랑할 수 있는가' '인공지능에게 가장 어려운 예술 영역은 무엇인가' '인공지능으로 인해 윤리적 문제가 발생했을 때 누가 책임져야 하는가?' '인공지능으로 대체될 가능성이 높은 직업은 무엇인가' '마인드 업로딩은 현실적으로 가능한가' '인공지능이 인간의 일을 대신하게 되면 인간은 어떻게 살아갈 것인가' '한국의 인공지능 기술의 수준은 어디까지 왔는가' 등 흥미진진하고 누구나 한 번쯤 고민해봤을 법한 물음에 대해 전문가적 식견을 들을 수 있다. 때로는 서로의 든든한 지원군이 되어주고, 때로는 아슬아슬한 긴장선을 달리며 서로의 주장에 집요하게 파고드는 인공지능을 둘러싼 사유의 향연으로 들어오라.

"무언가를 따라가기보다는 무언가를 둘러싸고 토론하는 것, 무언가에 대한 답을 내기보다는 차라리 답을 지우며 그 무언가에 물음을 던지는 것, 그것이 우리가 한 일이라고 생각해요. 다른 건 몰라도 많은 답을 지우는 데는 성공적인 대담이었다고 생각합니다." _p. 307

서문 | 당신이 할 예상 질문, 그 너머
1. 인공지능이란, 아니 지능이란 무엇인가?
2. 인간은 얼마나 특별한가?
3. 인공지능에게 몸을 허하라!
4. 생명 없는 지능과 마음의 발생학
5. 감각과 언어 사이에서
6. 기계는 인간을 이해할 수 없다고?
7. 기계적 감각과 감정 기계
8. 인공지능은 사랑 기계를 꿈꾸는가?
9. 답을 찾는 속도와 답을 지우는 능력
10. 리얼리즘의 역설과 인공지능
11. 인간의 에이전트와 기계의 에이전트
12. 기계와 인간 혹은 우정의 에티카
13. 인공지능은 노동을 먹어치우는가?
14. 인공지능의 미래, 미래의 인공지능
부록 | ChatGPT, 특이점이 찾아온 것인가?

이진경 지식공동체 수유너머104 연구원, 서울과학기술대학교 인문사회교양학부 교수. 《철학과 굴뚝청소부》를 시작으로, 자본주의와 근대성에 대한 이중의 혁명을 꿈꾸며 쓴 책들이 《맑스주의와 근대성》《근대적 시·공간의 탄생》《수학의 몽상》《철학의 모험》《근대적 주거공간의 탄생》《필로시네마, 혹은 탈주의 철학에 대한 10편의 영화》 등이다. 사회주의 붕괴 이후 새로운 혁명의 꿈속에서 니체, 마르크스, 푸코, 들뢰즈·가타리 등과 함께 사유하며 《노마디즘》《자본을 넘어선 자본》《미-래의 맑스주의》《외부, 사유의 정치학》《역사의 공간》《우리는 왜 끊임없이 곁눈질을 하는가》《사랑할 만한 삶이란 어떤 삶인가》 등을 썼다. 《코뮨주의》《불온한 것들의 존재론》《삶을 위한 철학수업》《파격의 고전》 등을 쓰면서 지금 여기에서의 삶을 바닥없는 심연 속으로 끌고 들어가고 있다.