멸종 위기의 사고

생각하는 능력의 퇴행에도
우리를 침묵하게 만든 이는 누구인가

『멸종 위기의 사고』는 생성형 AI의 등장과 확산이 인간 고유의 능력을 어떻게 퇴행시키는지, 그리고 왜 우리가 그 퇴행을 위기로 감지하지 못하는지를 파고든다. 저자의 진단은 단호하다. 기술이 인간을 대체하는 것 자체가 문제가 아니라, 사람들이 생각하고 창조하는 즐거움을 스스로 내려놓도록 방치되고 있다는 사실이 문제다. 저자는 그 방치를 주도하는 이들로 AI 산업 종사자와 정치인을 지목한다. 이들은 편리와 효율, 혁신이라는 언어로 무비판적 수용을 정설로 만들고, 마땅히 있어야 할 의심과 반박의 자리를 지워 왔다는 것이다.
이 책이 겨냥하는 것은 기술 그 자체가 아니다. 기술을 둘러싼 우리의 무감각이다. AI가 편리한 답을 즉시 내어주는 동안 사람들은 스스로 답을 찾으려는 노력을 멈추고, 링크를 눌러 출처를 따지고 비교하고 종합하는 일마저 무용해진다. 저자는 이 흐름이 개인의 나태 때문이 아니라, 산업과 정치가 함께 떠받치는 구조적 조건 위에서 진행된다고 본다. 그가 해부하는 'AI 근본주의의 다섯 기둥'인 신봉자, 활동가, 전도사, 기관, 변호인은 이 무비판적 수용이 어떻게 하나의 시대적 상식으로 굳어졌는지를 보여 준다. 규제조차 종종 면죄부로 작동한다는 지적은 특히 서늘하다.
여기에 이 책의 시의성이 있다. 지적·창의적 직업의 소멸은 먼 미래의 가정이 아니라 교육, 번역, 언론, 예술 현장에서 이미 진행 중인 현실이다. 어떤 작품에 감탄하면서도 작가가 창작한 진짜 작품인지 AI가 만든 가짜인지 의심부터 하게 되었다. 이는 문화의 원천이 마르는 일이기도 하다.

"세 번째 위기는 일반화된 불신의 도래이다. 25세의 작가가 쓴 첫 장편 소설이 베스트셀러가 되었을 때, '작가가 정말 쓴 게 맞는지', '혹시 챗GPT와 공모해서 쓴 건 아닌지' 의심하게 만든다. 16세에 「취한 배」나 「모음」을 쓴 아르튀르 랭보에게도 가졌을 법한 의심인데, 다른 분야에서도 나타날 것이다."
_'(새로운) 문화 위기' 중에서

파리 AI 세계 정상회의에 맞선 'AI 반정상회의'의 외침
우리는 요구한다! 우리는 행동한다!

2025년 파리 그랑팔레에서 세계 각국 정상과 AI 기업인들이 모인 AI 세계 정상회의가 열렸다. 그리고 같은 시간, 그곳에서 불과 몇백 미터 떨어져 있는 콩코드 극장에서 이 책의 저자인 에릭 사댕이 주도한 'AI 반정상회의'가 개최되었다. 번역가, 배우, 교사, 기자, 성우 등 생성형 AI로 변화를 겪고 있는 현장의 생생한 목소리를 한자리에 모았다. 그동안 짐작과 소문으로만 존재했던 것들이 당사자의 경험을 통해 모습을 드러내는 순간이었다.

"번역 업체들이 경쟁력을 높인다는 명목으로 원고 단가를 줄이고 마감일까지 당기면서, AI로 초벌 작업한 자료를 번역가에게 전달하는 관행을 설명했다. 그러나 이렇게 전달된 버전은 품질이 매우 나빠서 번역가들이 모두 재작업해야 하는 수준이라는 것. 이런 절차로 인해 번역 업무의 본질이 왜곡되었을 뿐 아니라, 대부분 프리랜서인 직업 특성상 고립되어 있어 생계 문제로 연결되니 더욱 압박감을 느낄 수밖에 없다는 고충을 토로했다."
_'모두를 위한 파리 반정상회의' 중에서

『멸종 위기의 사고』는 AI를 거부하라고 외치는 러다이트의 책이 아니다. 생각하고 창조하는 기쁨이 인간을 인간이게 하는 마지막 근거라면, 그것을 지키는 일은 취향이 아니라 의무라고 말하는 책이다. 편리함에 밀려 사고를 AI에게 넘겼다는 막연한 불안을 느껴 본 독자라면, 이 책에서 그 불안의 정체와 이름을 얻게 될 것이다. 여기에서 그친다면 불안이 두려움으로, 문제의식과 함께 찾아온 열정이 냉소로 바뀔 수 있다. 행동하는 지성 에릭 사댕은 이런 목소리를 모아 문제 제기하는 데 그치지 않고 요구사항과 행동 방침을 구체적으로 마련해 제시했다.

우리는 요구한다
하나, 인간 고유의 사고·창조 능력 발현이 위협받아서는 안 된다.
둘, 인간의 한계를 무시하고 급격한 변화를 강요하는 기술 발전을 거부한다.
셋, 문화의 원천인 지적·창의적 직업의 소멸은 정당화될 수 없으며, 보전을 위한 협동이 필요하다.
넷, 사회는 상호의존 속에 유지되지만, 기술 시스템과의 관계는 고립과 폭력을 낳는다.
다섯, 기술 발전의 판단은 이해관계에 얽매인 전문가가 아니라 실제 경험자가 맡아야 한다.
여섯, 원칙을 어긴 회사와 기관에 대한 공적 지원은 규탄받아야 한다.
일곱, 작가·예술가는 보상과 타협하지 않고 생성형 AI를 쓰지 않겠다고 맹세해야 한다.

우리는 행동한다
하나, 고립되기 쉬운 자영업자·프리랜서일수록 집단을 구성하고, 산업 간·국제적 연대로 결집해야 한다.
둘, 각 단체는 수용할 것과 거부할 것을 명시한 독립적인 헌장을 작성해 행동의 기준으로 삼아야 한다.
셋, 협상이 실패하면 철회권을 행사해서라도 원칙을 침해하는 시스템의 사용을 거부해야 한다.
넷, 필요하면 파업도 불사해야 한다.
다섯, 요구가 법적으로 무시되면 체계적인 법적 대응에 나서야 한다.
여섯, 법적 공백 속 부당한 관행에는 소송을 통해 판례를 만들어 맞서야 한다.
일곱, 현장의 반대 의견을 장려하고 수집해 언론·정치인·대중에게 전달하는 루트를 마련해야 한다.

이 요구사항과 행동 방침은 불변의 것이 아니다. 에릭 사댕은 이를 바탕으로 집단마다 적절히 수정하고 발전시켜야 한다는 당부도 잊지 않았다. 그동안 AI와 사고력 문제를 다루는 책은 여럿 있었다. 그 사이에서 이 책이 도달한 남다른 지점은 현장의 생생한 증언과 함께 각성의 중요성을 일깨우고 구체적 변화의 방향을 제시하고 있다는 사실이다. 사변에 머물지 않고 현장과 실천으로 내려온 철학서라는 점, 오늘 이 책을 꼭 읽어야 하는 이유다.

생성형 AI에게 생각과 판단까지 위임하는 시대
인간은 이대로 빈껍데기로 전락할 것인가?
요구하고 행동하여 인간의 고유성을 지킬 것인가?

2025년 세계 지도자들과 글로벌 AI 기업 경영진이 파리 그랑팔레에 모여 AI 기술의 발전과 경제 효과를 전망하고 협력을 도모하는 정상회의를 열었다. 그러나 그 자리에는 생성형 AI의 빠른 전파 속에 오랫동안 공들여 쌓아 온 문화와 가치가 어떻게 무너져 내리고 있는지, 이를 막기 위해 무엇을 해야 하는지 살피려는 목소리는 존재하지 않았다.
같은 시간, 그랑팔레에서 300미터가량 떨어진 콩코드 극장에 또 한 무리의 사람들이 모였다. 교사, 배우, 성우, 번역가, 기자 등이 생성형 AI 등장과 확산 이후 자신의 분야에서 일어난 변화, 교육, 예술, 그리고 인간의 고유한 재능이었던 창의력과 사고력이 어떤 위기를 맞았는지 생생한 경험담을 공유하고 공론화했다. 'AI 반정상회의'라는 이름으로 진행된 이 자리는 프랑스의 철학자이자 행동하는 지성이자 『멸종 위기의 사고』의 저자인 에릭 사댕의 문제의식과 주도로 만들어졌다. 그는 챗GPT 등장 이후 사람들이 어떻게 생각하는 힘을 서서히 잃어가면서도 아무런 저항 의식 없이 받아들이게 되었는지를 주시하며 면밀하게 파헤쳤다.

더는 늦출 수 없는 결정적 순간
우리는 요구한다!

에릭 사댕의 진단은 단호하다. 문제는 기술의 발전 자체가 아니라 사람들이 생각하고 창조하는 즐거움을 스스로 내려놓도록 만들어진 구조에 있다는 주장이다. 또한 기술을 어떻게 활용하고 규제할지에 대한 제대로 된 논의 없이 빠른 속도로 산업을 키우고 일상, 교육, 창작의 영역을 잠식하도록 방치했다는 것이다. 저자는 이런 현상을 주도하는 이들로 AI 산업 종사자와 정치인을 지목한다. 이들이 편리와 효율, 혁신이라는 언어로 무비판적 수용을 정설로 만들고 의심과 반박의 자리를 지워 왔다고 비판한다. 지금까지 만들어진 규제나 연구 역시 이해당사자들이 깊이 관여하는 모순 속에 만들어졌다고 날카롭게 지적한다.
『멸종 위기의 사고』를 통해 에릭 사댕이 강조하는 것은 '우리'의 자각과 선택, 행동이다. 이 책은 시종일관 생각하고 창조하는 기쁨을 지키는 일이 취향이 아니라 의무임을 일깨우기 위해 목소리를 높인다. 단순히 현상 진단에 그쳐 불안감만 높이는 대신, 우리가 마땅히 해야 할 요구사항, 행동 방침을 제시하며 냉소로 빠지지 않도록 한다. 편리함에 밀려 사고를 반납하고 있다는 막연한 불안을 느껴 본 독자라면, 이 책에서 그 불안의 정체와 이름, 그리고 대응의 언어를 얻게 될 것이다.

서론 탈본질화 과정

1. 타나톨로고스
언어의 본질을 거스르다
언어 자본주의: 기계의 말이 바꾼 세계
우리가 아는 교육, 학교가 사라진다

2. 망상의 세계
명령어로 만들어지는 비접촉 이미지
모호해진 진짜와 가짜의 경계
(새로운) 문화 위기

3. 노동의 완전 자동화를 향하여: 호모 파베르에 맞선 범죄
경영 관리 뉴스피크와 탈신체적 자본주의의 도래
인간은 바닷가 모래 위에 그려진 얼굴처럼 사라진다
'나와 너' 상호의존 사회

4. 탈인간성
탈인간적 기술과 반인류학적 조건
모든 것을 움직이는 '전권'
어리석음이 넓게 깔린 시대

5. 조작된 표상을 규탄한다
AI 근본주의를 받치고 있는 다섯 기둥
규제라는 크나큰 환상
모두를 위한 파리 반정상회의
결론 우리는 요구한다! 우리는 행동한다!

주석

에릭 사댕? ?ric Sadin

디지털 기술이 우리 사회, 정치, 문명에 미치는 영향을 비판적으로 연구하고 대중에게 적극적으로 알리는 프랑스 철학자이자 작가다. 『세계의 실리콘밸리화La Silicolonisation du monde』, 『인공지능, 세기의 문제L'Intelligence artificielle ou l'Enjeu du si?cle』, 『알고리즘적 삶La Vie algorithmique』 등 다수의 책을 썼고 국내에 『유령의 삶』이 소개되었다. 인공지능 산업에 대한 무비판적인 수용이 지닌 위험성을 활발한 연구, 저술 활동과 더불어 기고, 강연, 방송 출연 등을 통해서도 적극 알리는 깨어 있는 지성이다. 이런 활동의 하나로 2025년 파리에서 AI 세계 정상회의가 열리는 기간에 이에 맞서 AI 반정상회의를 주도했다.