AI 빅뱅

인문학의 시선으로 AI 발전을 분석해온 철학자 김재인
AI 빅뱅을 위기가 아닌 기회로 포착하는 혁신적인 담론을 시작한다

바야흐로 AI 대폭발의 시대다. 대화형 인공지능 챗GPT가 선도하는 생성 인공지능의 발전 속도는 가히 우리의 상상력을 뛰어넘는다. 2021년 1월 달리(DALL-E), 2021년 10월 디스코디퓨전(Disco Diffusion), 2022년 3월 미드저니(MidJourney), 2022년 4월 달리 2(DALL-E 2), 2022년 8월 스테이블디퓨전(Stable Diffusion), 2022년 11월 챗GPT, 그리고 2023년 3월 챗GPT-4까지 그림, 언어, 음악, 영상을 생산하는 인공지능 기술이 삽시간에 발전하고 있다. 더욱이 생산물의 질 또한 뛰어나서 어떤 것이 인간의 작품이고, 어떤 것이 인공지능의 작품인지 가늠하기 힘들 정도다. 도리어 인공지능이 그린 작품이 유명 대회에서 우승을 차지하기도 했다. 인간이 만든 기술이 인간을 압도할지 모른다는 공포가 전문기술 분야와 학계, 대중의 일상 속으로 급속히 퍼지고 있다. 인간은 과연 기계에 지배당할 것인가? 인류에게 미래는 있는가?
오랜 기간 과학기술의 변화를 분석해온 철학자 김재인은 논쟁의 구도를 "기계가 인간을 능가할 수 있는가?"라는 지배 담론에서 "인간은 어떻게 기계와 공생할 수 있는가?"라는 대안 담론으로 바꾸는 혁신적인 시도를 한다. 주어를 기계가 아닌 인간으로 두고 사유하는 저자의 인문학적 통찰은 AI 발전을 둘러싼 대논쟁에서 놓치고 있는 위기의 본질을 직시하게 만드는 힘이 있다. 철학의 사회적 개입을 몸소 실천하며 경계를 넘는 소통을 끊임없이 시도한 철학자 김재인. AI 빅뱅을 맞는 새로운 역사적 국면에서 그의 통찰과 개입은 그 어느 때보다 날카롭다.

생성 인공지능의 가능성과 한계를 '원리의 관점'에서 분석
창작과 언어의 본질을 탐색하며 초거대 언어모델의 한계를 밝힌다

저자 김재인은 영국의 천재 수학자 앨런 튜링의 논문 〈계산 기계와 지능〉의 첫 문단("기계는 생각할 수 있을까?"로 시작하는 문단)을 패러디하면서 다음과 같은 물음을 던진다. "인공지능은 예술작품을 창작할 수 있을까?" 이 물음은 인공지능의 본질과 능력, 나아가 인간적 의미의 창작과 창조의 본성을 밝히는 데 중요한 함의를 갖는다. 저자는 딥드림과 넥스트 렘브란트, 그리고 이 둘의 한계를 지적한 럿거스 팀의 AICAN 원리를 자세히 살펴보면서 지도학습에 기반한 예술 창작 모델의 근본적인 한계를 지적한다. 그 한계는 바로 작업의 목표가 내부가 아닌 외부에서 주어진다는 사실에서 비롯하며, 예술 창작의 관점에서 말하면 작가가 자기 작품을 '평가'하지 못하는 한계로 귀결된다. 창작 의도가 없는 작가가 외부 요청으로 그린 그림을 자기 평가할 수 있는가? 그 평가는 오직 요청한 사람만이 할 수 있을 것이다. 이는 예술 창작의 주체인 작가의 관점을 완전히 배제하는 문제를 낳는다. 저자가 인용하고 있는 "하나의 작품은 작가가 그 안에서 자기 의도에 도달할 때 만족된다(렘브란트)", "하나의 그림이 완성됐다고 판단할 권리는 화가에게 있다(곰브리치)"라는 문구는 인간과 대비되는 이미지 생성 인공지능의 한계를 극명히 보여준다.
저자는 멀티모달을 포함한 생성 인공지능의 초거대 언어모델이 결국 인간 언어의 한계에서 벗어날 수 없다는 문제를 지적한다. 언어가 세계를 그대로 반영할 수 없는 존재론의 한계가 분명하기 때문이다. 언어로 지어진 인공지능의 세계 존재는 오류와 잘못된 정보로 지어진 '언어의 집'에 불과하다. 저자는 비트겐슈타인과 촘스키 언어관과 크게 다르지 않은 초거대 언어모델을 들뢰즈와 과타리의 언어철학을 통해 비판하면서 언표가 지닌 일차적 의미에서 벗어난 화행론의 시각에서 언어를 볼 것을 주장한다. 저자의 이런 관점은 언어 생성 인공지능이 불러일으킨 문제들, 가령 이해, 생각, 요약, 번역, 의식, 창조 같은 민감한 주제에서 드러나는 인간과 기계의 차이를 명확히 볼 수 있게 해준다.

인간 고유의 특성이 전문성이 되는 시대
협업을 위한 새로운 인문학 구축과 교육과정 개편이 시급하다

인공지능의 한계는 곧 인간을 돌아보는 계기가 된다. 저자는 가치를 평가하고 새로운 가치를 창출하는 인간 고유의 특성인 '창의성/창조성'을 예술 개념의 정립사를 통해 고찰한다. 창의와 모방의 대립 속에 정립된 근대의 예술 개념은 창의성의 존중으로 귀결되어 개인을 발견하는 성취를 이뤄냈다. 하지만 저자는 칙센트미하이, 베이트슨, 르루아구랑, 푸엔테스의 연구 결과를 살피며 인간종의 창의성은 개인을 중심으로 한 근대의 관점에서가 아닌 집단을 중심으로 한 생물학 및 인류학의 관점에서 이해되어야 한다고 주장한다. 집단을 통해 보존되고 개선되고 전승되는 창의성은 창의적 협력의 결과며, 인간종은 이런 협력을 통해 진화하고 발전해왔다.
그렇다면 인간 최고의 발명품인 AI가 도구로 활용되는 이 시대에는 어떤 방식으로 창의적 협력을 해야 할까? 저자는 자기 전문성을 갖추고 협업할 수 있는 인재 양성을 주장한다. 챗GPT의 사용자 경험에서 드러나듯 생성 인공지능은 그것을 활용하는 인간의 전문성에 따라 매우 다른 결과를 산출한다. 검색 능력의 차이가 질문 능력의 차이로 변화했고, 이런 질문 능력은 전문성에서 비롯한다. 잘 아는 만큼 잘 활용할 수 있다는 얘기다. 그러면서 저자는 협업을 위한 기초역량 강화 방안으로 새로운 인문학 구축과 교육과정 개편을 제시한다. 문사철로 통용되는 인문학을 언어, 문학, 역사, 철학, 수학, 자연과학, 사회과학, 예술, 디지털을 흡수하는 '확장된 인문학으로 재편'하고, 빼기식 교육을 고수하는 '문과 폐지로서의 교육과정 개편'이 반드시 필요하다고 본다. 이런 시급한 시대 요청을 외면한 채 학문 사대주의에 빠져 있는 한국 학계, 자기 전공을 벗어나지 않으려는 타성에 젖은 대학 사회, 칸막이식 교육을 고수하는 교육 체제에 가하는 저자의 일침은 매우 따끔하다.

시대의 요청에 응하는 인문학
쓸모없는 인문학에서 인문학 르네상스로

"인공지능과 관련된 인간의 반응을 보면 인간이 무엇인지 좀 더 분명하게 보이는 것 같아서 흥미롭습니다. 그런 탐구가 철학과 인문학의 몫이니까 이런 때야말로 더더욱 개입해야 하겠고요. 그런 개입이 꼭 필요한 시기가 많지는 않거든요. 역사를 보면 과학 혁명 시기가 그랬고, 서양 근대 형성 시기가 그랬고, 세계 전쟁 시기가 그랬습니다. 이런 중요한 때 여러 사고실험이 있었고, 그 결과물이 수백 년 동안 영향을 끼쳤습니다. 아마 지금이 우리가 경험하고 있으면서도 동시에 근대 세계를 벗어나 인간을 다시 생각하게 하는 시점이 아닌가 싶습니다. 인공지능이 중요한 계기지요." ('Q&A 짚어보기 #3' 중에서)

AI 빅뱅 시대를 역설적으로 인문학 르네상스로 보는 철학자 김재인. 이 책에서 독자는 위기에 대응하는 철학의 쓸모와 반등하는 인문학의 힘을 느낄 수 있을 것이다.

[추천사 이어서]

김재인 교수를 처음 만난 것은 '알파고 충격'에 휩싸여 ICT 정책연구의 새로운 방향 설정을 고민하던 2017년 말 어느 인공지능 세미나 현장에서였다. 그 당시 인공지능 시대를 바라보는 그의 계보학적, 인문학적 성찰은 내가 인공지능 관련 디지털 사회정책 어젠다를 새롭게 발굴하는 데 훌륭한 지적 촉매제 역할을 했었다. 그 이후 'AI 윤리', '알고리즘 규제' 등 지능정보사회 규범 연구가 내게 숙명과도 같은 중요한 정책연구 주제가 되었기 때문이다
그런 점에서 이번에 6년 만에 새롭게 펴낸 『AI 빅뱅: 생성 인공지능과 인문학 르네상스』는 챗GPT로 대표되는 생성 인공지능에 대한 두 번째 인문학적 통찰서라는 점에서 너무 반갑다. 저자가 스스로 밝혔듯이, "인공지능의 등장은 인간을 다시 묻게 했고, 이제 생성 인공지능은 인간의 가장 본질적인 특징과 능력을 돌아보게 하고 있기" 때문이다
6년 전에서도 그랬듯이, 이 책은 인공지능 시대를 살아가는 인간과 인류에게 새로운 희망의 메시지를 전하고 있다. 멀티모달 초거대 언어모델에 기반한 생성 인공지능의 충격이 인간의 존재감을 위축시키는 게 아니라 오히려 인간의 본질적 능력과 가치를 새롭게 부각시킬 것으로 전망하는 것이다. 특히 창작의 진정한 의미가 작품 그 자체보다 작품에 대한 가치 부여 방식으로서의 '평가'에 있듯이, 끊임없이 새로운 가치를 창조하려는 가치평가 행위는 인간의 핵심 능력이라는 것이다. 창작과 교육에 있어서 협력 또는 협업이라는 '사회적 동물'로서의 인간 본연의 능력은 생성 인공지능이 결코 대체할 수 없을 것이다.
인공지능과 인간의 상호작용에 있어서 '최종적 해석자', '최종심급(the last instance) 결정자'로서의 인간의 본질적 역할은 인공지능의 잠재적 위협에 대비하려는 정책담당자 입장에서도 중요한 시사점을 제기한다. 인공지능 시대의 다양한 사이버위협을 극복하는 데에 있어 사이버보안 역량 강화를 고민하게 만들기 때문이다. 과거 ICT 정책연구자 시절 알파고 충격이 인공지능과 윤리의 관계를 성찰하게 만들었다면, 오늘날 사이버보안을 담당하는 정책담당자의 입장에서 챗GPT의 충격은 인공지능과 보안의 관계를 더욱 유기적으로 만들어야 할 숙제를 떠안겨 주었다. 생성 인공지능은 어쩌면 내게 인공지능 규범 연구의 두 번째 전환점이 되었다고도 할 수 있을 것이다.
이원태ㆍ한국인터넷진흥원 원장

2023년은 아마도 AI 기술이 인간의 삶에 들어와 대체하기 어려운 그 일부가 되어버린 해로 기억되지 않을까. 그런 의미에서 『AI 빅뱅』이라는 책은 챗GPT와 바드를 필두로 엄청난 속도로 일상을 바꿔가고 있는 생성형 AI의 현재와 미래를 짚는 데 매우 유용한 책이다. 무엇보다 오랫동안 인공지능을 연구해 오던 철학자의 눈으로 '언어'와 '창조'의 본질에 대한 질문을 던지며 AI 언어 모델의 작동 방식을 들뢰즈, 과타리, 촘스키, 비트겐슈타인과 같은 언어철학자의 시각에서 다룬 부분은 많은 생각할 거리들을 던져준다. 최근에 쏟아져 나오고 있는 수많은 AI 관련 책 중에서 눈에 띄는 독보적이고 신선한 책이다. 단순히 AI 기술과 트렌드만을 다루는 것이 아니라 AI와 함께 살아갈 삶 안에서의 협업과 교육에 대해 보다 깊은 질문을 던지기에 이 책을 추천한다.
장동선ㆍ뇌과학자, 한양대 창의융합교육원 교수, 『AI는 세상을 어떻게 바꾸는가』 저자

챗GPT가 선도하는 생성 인공지능 혁명은 국가 산업과 경제뿐만 아니라 문화, 예술 등 전 사회적으로 인간의 일하는 방식과 삶을 완전히 바꾸어 갈 전망이다. 저자는 인공지능 시대에 대응하는 방안을 찾기 위한 선행작업으로서 초거대 언어모델인 생성 인공지능의 본질에 대하여 철학적인 질문을 던진다. 이 책은 챗GPT 기술의 발전 과정과 응용 사례를 소개할 뿐만 아니라 생성 인공지능의 한계를 밝히고 확장된 문해력을 포함하는 인문학 교육 등 저자의 주요 이슈별 제안을 담고 있어서 일반인은 물론 정책 관계자들에게도 생각할 점을 던져준다.
권호열ㆍ정보통신정책연구원 원장

여행할 때 카메라를 들고 포즈를 취하기보다 신체의 감각을 활용해 새로운 기분을 느끼려고 하는 편이다. 흔히 말하는 포토스팟(Photo Spot) 사진은 내 사진과 인터넷 검색 결과가 다르지 않기 때문에 찍고 싶은 생각이 별로 들지 않는다. 섀넌(Claude Shannon)이 말한 정보 엔트로피처럼 흔한 대상의 가치는
0으로 수렴하기 때문이고, 내가 영상으로 남기고 싶은 것은 검색하면 나오는 풍경이 아니라 옆에 있는 가족의 행복이기 때문이다. 이런 사진엔 스마트폰 카메라면 족하다.
바야흐로 인공지능이 글을 쓰고 그림을 그리는 시대다. 누구나 일상의 언어로 명령(prompt)하는 것만으로 불과 몇 달 전의 내가 상상하지 못할 수준의 결과물을 심지어 대량으로 생산할 수 있다. 누구나 예술작품을 만들 수 있는 시대이지만, 역설적으로 남들과 비슷해지기 쉽다. 인공지능은 학습된 데이터 밖을 벗어나기 어렵기 때문이다. 기술에 경도된 이들은 파라미터 수로 새로 나온 인공지능 모델을 평가하기도 하지만, 종국의 가치는 사용자가 느끼는 만족감이다. 특수효과가 현란해도 스토리가 뻔한 영화는 감동이 없기 마련이다.
인공지능으로 인한 또 다른 대량생산의 시대에 우리에게 필요한 것은 새로운 차원의 다름일지도 모른다. '남다르다'라는 우리말처럼, 인류는 남들과 다름에서 존재감을 느끼는 생물이기 때문이다. 저자가 던지는 많은 화두를 마음에 담아 새로운 싹으로 키워내기를 바란다.
이제현ㆍ한국에너지기술연구원 책임연구원

이 책은 아직은 물리적 세계와 구체적 삶의 감정을 가지지 못하는 인공지능 기술을 인간의 입장에서 어떻게 이해하고 재배치해야 하는지를 제안하는 철학자의 기술 사용서다. 기술적 대상에 대한 찬사나 품평, 원리에 대한 자폐적 독해가 아니라 기계를 새로운 인간성의 요소로 규정하고 비판하면서 수용할 수 있는 글이 필요한 우리 시대에, 김재인은 꼭 필요한 기계학자다.
오영진ㆍ서울과학기술대학교 융합교양학부 초빙조교수

가치 창조를 평가하는 능력이 있고 그 평가를 스스로 바꿀 수 있다는 점에서, 문제나 목표를 스스로 형성할 수 있다는 점에서 인간은 AI와 차별화된다. AI가 알려준 것을 활용하려면 인간은 AI가 평균적으로 해내는 것보다 더 큰 능력, 즉 전문지식과 기능을 갖추어야 한다. 언어는 인간을 닮지만 진실을 닮진 않고, 원리상 오류를 내포하며, 언어로 번역되지 않는 감각이 있으므로 초거대 언어모델은 한계가 있다. AI는 주체가 아니라 미디어이며, AI에 대한 사람들의 의인화 경향은 인간의 본성으로, 연구해야 할 인문학적 탐구 주제일 뿐이다. 이러한 저자의 냉철한 분석은 평자의 평소 생각과 100퍼센트 같아 반갑고 위로가 되었다. 인공지능 전문가들, 인문학에 종사하는 분들, 그리고 인공지능 시대에 인간 존재의 문제를 고민하는 모든 분들께 이 책은 철학적, 과학적 기초를 제공할 것이다.
이경전ㆍ경희대학교 경영학과, 빅데이터응용학과, 첨단기술비즈니스 학과 교수

추천의 글 ㆍ004
프롤로그: 생성 인공지능이 제기하는 문제들 ㆍ 016

1부??생성 인공지능의 빛과 그림자
- 인공지능의 발전 현황과 한계

1장 이미지 생성 인공지능과 예술 창작의 문제 ㆍ 032
2장 언어 생성 인공지능이 놓친 언어의 본질 ㆍ 076
3장 인공지능은 왜 눈치가 없을까?: 인공지능의 원리와 한계 ㆍ 114

2부??창조성의 진화
- 새로운 인문학과 융합 교육

4장 창조성과 창의적 협력 ㆍ 168
5장 인문학 패러다임의 변화: 확장된 인문학으로 ㆍ 214
6장 교육과정의 재편: 협업을 위한 융합 교육 ㆍ 264

에필로그: 위기는 인공지능에서 오지 않는다 ㆍ 300

부록
1. 통제할 수 없는 인공 초지능의 갑작스러운 등장에 관한 고찰 ㆍ 306
2. 인공지능 윤리는 장식품이 아니다: 윤리의 산업적ㆍ경제적 전략 측면 ㆍ 322
3. 「계산 기계와 지능」 번역 ㆍ 332

출처ㆍ참고문헌 ㆍ 374????감사의 말 ㆍ 386

김재인 철학자. 경희대학교 비교문화연구소 학술연구교수. 포스텍 융합문명연구원 《웹진X》 편집위원장. 디지털소사이어티 기획위원. 콜렉티브 휴먼 알고리즘 AI Five의 창립 멤버.
서울대학교 미학과를 졸업했고 동 대학원 철학과에서 석사(「니체의 '영원회귀' 사상 연구」)와 박사(「들뢰즈의 비인간주의 존재론」) 학위를 받았다. 서울대학교 철학사상연구소 연구원과 고등과학원 초학제연구프로그램 연구원을 역임했고, 서울대, 경희대, 한국예술종합학교, 서울여대, 한국외대, 홍익대 등에서 강의했다.
주요 단독 저서로 『뉴노멀의 철학』(2021년 교육부 학술연구지원사업 우수성과 부총리 겸 교육부장관상), 『생각의 싸움』(2022년 원주시 올해의 철학책 선정), 『인공지능의 시대, 인간을 다시 묻다』(2017년 경향신문 올해의 저자, 제58회 한국출판문화상 본심 선정, 경기문화재단 '경기그레이트북스 100선' 선정), 『혁명의 거리에서 들뢰즈를 읽자』 등이 있다.
공동 저서로는 『포스트 챗GPT』, 『호모 퍼불리쿠스와 PR의 미래』, 『이성과 반이성의 계보학』, 『인간을 위한 미래』, 『AI 시대, 행복해질 용기』, 『공동체 없는 공동체』, 『모빌리티 사유의 전개』, 『인공지능 시대의 예술』, 『철학, 혁명을 말하다』, 『처음 읽는 프랑스 현대철학』 등이 있다.
번역서로 『들뢰즈, 연결의 철학』, 『베르그손주의』, 『안티 오이디푸스』, 『천 개의 고원』 등이 있다.