AI는 자신의 무지를 알 수 있을까

실제로 이 책을 관통하는 다른 주제는 인간이다. 언뜻 보면, 그 둘은 많이 다른 것 같다. 그러나 AI를 이해하고 공부하는 과정에서 우리는 인간도 비로소 알게 된다고 필자는 생각한다. 흔히 인간이 도구로 사용하기 위해 인공지능을 개발했다고 여겨지지만, 실제로 AI의 연구 과정을 이끈 동기 하나는 인간을 넘어서는 지능에 대한 탐구였다. 그러나 도대체 인간을 넘어선다는 것이 무엇을 말하는가? 인간에 대한 기대와 실망이 거칠게 교차하는 시대이다. AI가 인간과 앞으로 어떤 복잡한 관계를 맺을지 예측하기는 어렵지만, 어쨌든 인간은 아직 자신에 대해서도 많이 모른다. 필자의 개념 작업인 '포월匍越'은 다름 아니라 이 물음을 던지고 대답하고자 했다. -본문 p.8~9

AI의 아이러니,
정보가 많아질수록 불확실성도 커진다

우리는 흔히 AI를 똑똑한 도구나 인간 능력을 압도할 초지능으로 여기고, 정보란 본디 확실성을 높이는 유용한 것으로 간주한다. 그러나 이 책은 정보의 발전이 확실성이나 실용성을 증대시킴과 동시에, 본질적으로는 '불확실성'을 다루는 기술과 함께 발견되고 발전해왔음을 확인시켜준다.
정보 이론의 아버지로 불리는 클로드 섀넌에 따르면, 정보의 양은 오히려 불확실성이 클수록 커진다. 단적으로 불확실성의 크기가 곧 정보의 값/양이라고 말할 수 있다. 왜 그런가? 모두가 알고 있는 사실은 정보로서의 가치가 없기 때문이다. "태양이 내일 동쪽에서 뜬다"는 메시지는 거의 불확실하지 않으므로 정보량이 0에 가깝지만, "우리 회사 AI는 로또 1등 당첨 번호를 맞출 것이다"라는 메시지는 매우 불확실하므로 큰 정보량을 가진다. 정보는 단순히 확실성을 표현하지도 않고, 또 불확실성을 줄이는 것을 목적으로 삼지도 않는다는 이 속성을 생각하면, AI의 지능은 앞으로도 매우 발전할 가능성이 크지만 아무리 발전한다고 해도 불확실성이 줄어들지는 않을 것이다.

왜 '부분과 전체'가 아닌 '시스템과 환경'인가?
복잡성의 시대를 읽는 새로운 틀

그렇다면 이 불확실성과 복잡성에 어떻게 대응해야 할까? 저자는 루만의 시스템 이론을 통해 이 문제를 심층적으로 분석한다. 전통적인 사고는 세상을 부분과 전체로 나누었다. 부분은 전체의 일부이며, 그 전체의 목표와 논리를 따른다고(혹은 따라야 한다고) 여겼다. 그러나 그런 인식은 오늘날에 유효하지 않다. 기업이나 정당은 전체로서의 국가나 사회의 일부로서만 기능하지 않는다. 사회 시스템으로서 그 조직들은 사회나 국가를 환경으로 파악한다. 심지어 개별 인간도 그렇다. 루만은 "인간은 사회의 어떤 부분도 아니다"라고까지 말했다. 인간 역시 흔히 이해되듯이 사회의 한 부분이 아니라 사회라는 환경을 마주하고 있으며, 그 환경과 영향을 주고받는다. 시스템이 환경에 대해 가지는 관계는, 부분이 전체에 대해 가지는 관계와 다르다.
이제 사회에 속한 각각 주체들이 공유하는 전체성은 없다고(혹은 아주 드물다고) 솔직히 인정해야 한다. 전체에 값하는 어떤 이상적이거나 도덕적인 규칙 혹은 원칙을 내세워 갈등을 해결할 수도 없고, 진보나 보수처럼 분명한 구분으로 세상을 재단하는 것도 불가능하다. 현재 사회의 복잡성을 받아들이고, 갈등이 폭력적으로 분출하지 않게 조율하는 게 최선이다. 부분과 전체라는 틀을 대신하는 시스템과 환경이라는 틀이 필요한 까닭이다.

시스템과 환경의 구별에서 출발하는 관점은 물리적 폭력이 줄어야 사회적 갈등이 순화된 형태로 길들여질 것이라고 예상하지만, 폭력의 감축이나 합의의 확대 같은 정치적 프로그램을 목표로 하거나 거기 호소하면 문제가 해결된다고 생각하지는 않는다. 도덕과 법과 자본이 갈등을 해결하지는 못한다고 판단하면서도, 시스템 이론은 그것들이 전혀 의미 없다고 여기지도 않는다. 이런 상황 자체가 복잡성을 다시 고조시키는 것도 사실이다. 복잡성은 어떤 규칙이나 규범으로 정치적 프로그램으로는 쉽게 해결되지는 않으며, 다양하게 융통성 있게 적응하면서 다루어야 할 문제라는 것을 다시 알려준다. -본문 p.203~204

포월(匍越)에서 월포(越匍)로
AI와 인간이 가야 하는 길

이런 현실에서 AI는 우리에게 세계와 환경의 불확실성에 대해 다르고도 넓게 생각하는 법을 가르쳐준다. 또 AI는 지적으로나 정신적으로 수준 높은 작업을 인간 대신 수행하면서 타인이나 사회를 사회적 환경으로 바라보게 한다. 앞으로 AI는 인간이 심리적으로나 사회적으로 존재하는 데 필수적인 협력자나 협력 시스템, 나아가 대행자가 될 것이다.
그러나 AI는 우리에게 모든 갈등과 문제의 답을 알려주는 그런 초지능이 되지는 못할 것이다. 정보처리에서 인간보다 뛰어날 수 있다 해도 결국은 정보를 처리하는 시스템이며, 자기를 둘러싼 더 복잡한 환경을 마주해야 한다.(그러니 모호하게 AGI를 기대하기보다는, 불확실성/정보를 처리하는 시스템으로 AI를 이해하는 게 타당하다.) AI 역시 인간처럼 나름의 편향과 성격을 가질 것이고, 무엇보다 인간이 부딪히는 불확실성과 복잡성의 문제에도 부딪힐 것이기 때문이다. 그런 문제는 모든 것을 초월해 절대적인 합리성과 이성의 잣대로 해결할 수 없다. 예를 들어 기후위기를 해결하는 정답이 있더라도, 이해관계자가 너무 많아 현실에서 그 답을 실현할 수 없는 것처럼 말이다. 현실에 바짝 붙어 섬세하게 갈등을 살피는 것이 그 문제를 넘어갈 수 있는 길이다. '뛰어넘는[超越]' 게 아니라 '기어서 넘어야[匍越]' 한다.
AI는 어떤 면에서는 인간을 초월하겠지만, 그렇게 초월하고 나서도 다시 기어가야 한다[越匍]. AI가 어떤 경계를 넘어서도 새로운 환경은 계속 복잡성을 더할 것이기 때문이다. 자신의 무지와 한계를 자각하고, 그 복잡성을 받아들여야(즉 다시 기어야) 한다. 책에서 여러 번 반복하는 "기는 놈 위에 뛰는 놈, 뛰는 놈 위에 나는 놈, 나는 놈 위에 다시 기는 놈"이라는 속담은, 바로 이런 순환을 가리킨다. 자신의 무지를 넘어서지 못하는 한계는 인간이든 인간보다 높은 지능의 AI든 마찬가지다. 자신을 성찰할 수 있어야 계속 나아갈 수 있다.
『AI는 자신의 무지를 알 수 있을까』는 정보 이론, 시스템 이론, 심리학, 사회학을 넘나들며 AI 시대의 기술, 사회, 인간에 대한 끈질긴 시선의 힘을 보여준다. AI의 눈부신 발전과 그 이면의 근본적인 한계를 동시에 직시하며, super-불확실성의 시대를 살아가는 우리에게 필요한 지적 통찰과 성찰의 계기가 되어줄 것이다.

인간적 삶은 한편으로는 기술 문명 속에서 AI의 도움을 받아 날아다닐 것이다. 심리 시스템과 신체 시스템을 강화할 수 있는 의학적이고 생화학적 방법들도 수없이 개발될 것이다. 그러나 다른 한편으로 소박하고 느린 삶의 가치가 사람에게는 여전히 소중하게 다가올 듯하다. 그리고 역설적이게도 인간의 삶에서 소박한 마음은 앞으로도 계속 중요할 것이다. 따뜻하게 사랑하는 마음도 마찬가지로 중요할 것이다. 특히 오랜 시간 동안 공을 들인 소박한 마음과 사랑하는 마음은 나는 놈의 성공 못지않게 소중할 것이다. 문명 속에서 나는 놈은 물론 필요하다. 그러나 나는 놈 위에 기는 놈이 있다. 사람에게는 특히 그런 것 같다. 지능의 차원에서나 생물학적 한계의 차원에서나, 사람은 나는 놈이자 기는 놈이다. 세상을 모르는 아이들은 얼마나 천진하게 웃는가. 그렇지만 나이가 들수록 사람은 복잡성에 눌리는 경향을 보인다. 또 수명이 늘어날수록 복잡성도 커진다. 이 상황에서 단순함과 소박함이 다시, 언제나 그랬지만, 중요해진다. -본문 p.386

들어가며

1부 정보가 증가하면 불확실성도 증가한다
1장. 인간의 마음은 정보를 균형 있게 받아들이기 힘들다
2장. '정보는 불확실성의 표현'이라는 아이러니
3장. AI 학습의 자율성은 정보처리 시스템의 닫혀 있음과 관련된다

2부 부분과 전체의 패러다임에서 시스템과 환경의 패러다임으로
4장. 정보는 시스템의 한계 안에서 생산된다
5장. 세계는 이제 상이한 방식으로만 관찰될 수 있다
6장. 인간과 사회의 관계, 부분/전체의 틀에서 벗어나 시스템/환경의 구별로
7장. 사회적 갈등을 그 복잡성에 걸맞게 다룰 수 있을까

3부 자신들 문제를 직접 해결 못하는 인간과 그 대행자 AI
8장. AI는 인간을 더 복잡하고도 구속되지 않은 방식으로 파악하게 만든다
9장. 인공일반지능에 대한 모호한 기대와 착각
10장. AI 무기, 인간의 희생을 없앤다는 또 다른 위험
11장. 인간 대신에 왜 AI가 조직을 이루는가

4부 포월, 그리고 월포
12장. 포월의 과제는 어떻게 시작되었나
13장. 기는 놈 위에 뛰는 놈, 뛰는 놈 위에 나는 놈, 나는 놈 위에 다시 기는 놈
14장. 포월이라 하였는데 월포

나가며

김진석 서울대 철학과와 독일 프라이부르크 대학에서 공부했으며, 하이델베르크대학에서 철학박사 학위를 받았다. 인하대학교 철학과에서 교수로 일했고, 현재는 명예교수이다. 계간 『사회비평』 편집주간, 저널룩 『인물과 사상』과 계간 『황해문화』 편집위원을 역임했다.
저서로는 『Hermeneutik als Wille zur Macht』 『탈형이상학과 탈변증법』 『초월에서 포월로』 『니체에서 세르까지』 『이상현실·가상현실·환상현실』 『폭력과 싸우고 근본주의와도 싸우기』 『소외에서 소내로』 『포월과 소내의 미학』 『기우뚱한 균형』 『니체는 왜 민주주의에 반대했는가』 『더러운 철학』 『우충좌돌 -중도의 재발견』 『소외되기-소내되기-소내하기』 『강한 인공지능과 인간』 『진보는 차별을 없앨 수 있을까』 등이 있다.