알고리즘을 알아야 AI가 보인다(세더잘 87)

방금 친구와 떠든 운동화가 내 스마트폰 광고로 뜰 때, 우리는 흔히 "내 말을 엿듣나?"라며 불쾌해한다. 하지만 이 책은 그 막연한 직감이 완전히 틀렸다고 단언한다. 알고리즘은 굳이 당신의 대화를 도청할 필요가 없다. 과거의 동선과 무심코 누른 클릭 몇 번만으로 당신의 심리와 욕망을 이미 완벽하게 꿰뚫고 있기 때문이다. 수억 명을 도청하는 데 드는 천문학적인 비용을 감수하면서까지 불법을 저지를 이유가 없다는 서늘한 팩트폭력이다.

이 책은 단순히 스마트폰을 멀리하자는 뻔한 글이 아니다. 우리가 알고리즘이 제공하는 '편리함'이라는 마취제에 취해 있는 동안, 보이지 않는 손이 어떻게 우리의 자유 의지를 교란하고 조종하는지 그 섬뜩한 메커니즘을 낱낱이 해부한다. 책장을 덮고 나면, 매일 들여다보던 스마트폰 화면이 전혀 다른 질감으로 다가올 것이다.

우리가 몰랐던 진짜 얼굴: 고객이 아닌 '24시간 무임 노동자'
우리는 유튜브와 인스타그램, 포털 사이트를 무료로 가입하고 이용한다. 하지만 이윤 추구가 지상 과제인 거대 기업에게 진정한 의미의 공짜란 없다. 그들이 천문학적인 서버 유지비를 감당하며 서비스를 개방하는 이유는 단 하나, 우리의 일상을 돈으로 환산하는 완벽한 수익 모델을 구축했기 때문이다.

빅테크가 진짜 탐내는 것은 이름이나 전화번호 같은 소중한 개인정보가 아니다. 당신이 어떤 자극적인 제목에 분노하는지, 우울한 밤 11시에 어떤 영상에서 스크롤을 멈추는지 등 살아 숨 쉬는 '동적 편향성'을 캐내는 데 혈안이 되어 있다. 그래야 가장 치명적인 타이밍에 당신의 지갑을 열 수 있기 때문이다. 우리가 숏폼 영상에 빠져 도파민을 소비하는 그 휴식의 순간조차, 기업의 서버에는 돈이 되는 데이터가 쉴 새 없이 쌓인다. 우리는 고객이 아니라, 자발적으로 데이터를 바치는 '24시간 무임 노동자'에 불과하다.

사고력의 퇴화, 그리고 화면 밖으로 쏟아져 나온 통제
알고리즘이 떠먹여 주는 편의의 이면에는 '사고력의 퇴화'라는 무거운 청구서가 날아든다. 길을 찾기 위해 공간을 지각하고, 답을 구하기 위해 사색하던 인류는 이제 인공지능의 요약과 추천에 완전히 길들여졌다. 내가 주도적으로 골랐다고 믿는 유튜브 영상의 70%는 사실 알고리즘이 교묘하게 깔아놓은 레일을 무비판적으로 따라간 결과다. 생각의 외주화가 불러온 인간 정체성의 상실이다.

더 끔찍한 것은 이 위협이 스마트폰이라는 6인치 사각형 화면 안에 머물지 않는다는 점이다. 인간을 닮은 휴머노이드 로봇(피지컬 AI)과 뇌를 모방한 초저전력 반도체(뉴로모픽)의 등장은, 오프라인의 내밀한 일상마저 24시간 데이터화되는 시대를 예고한다. 묻는 말에 대답만 하던 AI가 스스로 판단하고 결제까지 집행하는 'AI 에이전트'로 진화하면서, 인간은 삶의 결정권자 자리에서 철저히 밀려날 위기에 처했다.

알고리즘의 노예에서 주인으로: 반격의 기술
그렇다고 이 책이 디스토피아적 절망만 늘어놓는 것은 아니다. 거대한 감시 자본주의 시스템에 균열을 내고 잃어버린 '나'를 되찾기 위한, 지극히 현실적이고 구체적인 반격의 기술을 제안한다.

알고리즘이 가장 두려워하는 것은 바로 '패턴의 파괴'다. 평소라면 거들떠보지도 않던 낯선 장르의 영상을 일부러 클릭하고, 자신의 취향을 뒤섞어 예측 불가능한 존재가 되어야 한다. 나의 패턴을 지우는 이러한 의도적 일탈이야말로 인간의 주체성을 증명하는 가장 강력한 무기다. 그리고 무의식적으로 스크롤을 내리기 전, 딱 1초만 멈추고 스스로에게 묻기를 권한다. "이건 내가 원한 것인가, 아니면 원하도록 설계된 것인가?"

결국 이 책은 보이지 않는 지배자의 실체를 가장 날카롭게 파헤친, 다가올 미래를 살아갈 청소년과 우리 모두를 위한 서늘한 생존 교양서다. 기술이 던져주는 달콤한 편리함에 그저 취해 있을 것인가, 아니면 기꺼이 불편을 감수하고서라도 내 삶의 운전대를 다시 쥘 것인가. 그 치열한 질문에 대한 묵직한 해답이 이 책에 담겨 있다.


▶교실을 깨우는 독서 토론 발제문 3가지

1. 편리함과 맞바꾼 데이터, 우리는 정당한 거래를 하고 있는가?
우리가 매일 무료로 사용하는 유튜브, SNS 등의 플랫폼은 사실 우리의 일상과 감정 데이터를 수집해 이윤을 창출하는 '감시 자본주의' 시스템으로 작동합니다. 알고리즘은 편리함을 제공하는 대가로 우리의 취향과 선택을 은밀하게 유도(넛지)합니다.

토론 포인트: 기업이 제공하는 맞춤형 서비스와 편리함을 누리기 위해 개인의 내밀한 데이터와 무의식적인 선택권을 넘겨주는 것은 정당한 거래일까요? 알고리즘이 추천한 영상을 클릭하고 물건을 구매한 것을 온전한 나의 '자유 의지'라고 부를 수 있는지 토론해 봅시다.

2. 화면 밖으로 나온 피지컬 AI, 기술은 평등한 축복인가 새로운 계급인가?
알고리즘은 이제 스마트폰 화면을 벗어나 인간을 닮은 휴머노이드 로봇(피지컬 AI)의 형태로 우리의 물리적 현실에 진입하고 있습니다. 자본을 가진 사람은 로봇을 소유해 부를 축적하지만, 그렇지 못한 사람은 잠도 자지 않는 로봇과 일자리를 두고 생존 경쟁을 벌여야 하는 시대가 다가오고 있습니다.

토론 포인트: 기술의 발전이 인간을 고된 노동에서 해방해 줄 것이라는 장밋빛 전망 이면에 숨겨진 '부의 초격차' 문제를 어떻게 바라보아야 할까요? 로봇 소유 여부가 새로운 신분 계급이 되는 사회에서, 배제되는 사람 없이 인간의 존엄성을 지키기 위한 사회적·제도적 안전장치는 무엇이 있을지 이야기해 봅시다.

3. 통제 불능의 AI 시대, 디지털 주권을 되찾을 방법은 무엇인가?
알고리즘은 체류 시간을 늘리기 위해 확증 편향을 부추기고 우리를 비슷한 생각만 맴도는 '에코 체임버(반향실)'에 가둡니다. 나아가 AI 에이전트가 인간을 대신해 스스로 판단하고 결제까지 진행하기 시작하면서, 인간은 점차 결정의 주체에서 밀려날 위기에 처했습니다.

토론 포인트: 거대 플랫폼의 알고리즘 통제에서 벗어나 '디지털 주권'을 회복하기 위해 개인은 일상에서 어떤 실천(예: 랜덤 다이브, 의도적 노이즈 발생 등)을 할 수 있을까요? 나아가 기술에 끌려다니는 수동적 소비자가 아닌, 추천의 기준을 직접 선택할 권리(미들웨어)를 요구하는 등 기술을 통제하는 주인이 되기 위한 구체적인 아이디어를 제시해 봅시다.

▶교과 연계 안내 (개정 교육과정 반영)
이 책은 중고등 〈정보〉, 〈사회〉, 〈도덕〉 교과와 연계하여 인공지능 시대의 윤리와 미디어 리터러시, 그리고 디지털 주권을 토론하기에 최적화된 텍스트입니다.

▼ 인터넷에서 '내인생의책'을 검색해 보세요!
https://blog.naver.com/bookinmylife

들어가며 7
1장 우리는 왜 갇히는가?: 편향의 삼각지대 15
1. 기술의 벽: 필터 버블(Filter Bubble) 17
2. 심리의 자물쇠: 확증 편향(Confirmation Bias)-팩트는 차갑고, 거짓말은 따뜻하다 20
3. 사회의 확성기: 에코 체임버(Echo Chamber) 25

2장 알고리즘이 사라진 세상: 완전 해체는 가능한가? 35
1. 위험한 상상: 알고리즘을 끄면 유토피아가 올까? 35
2. 정보의 쓰나미: 분당 500시간의 공포 38
3. 야생의 정글: 큐레이터가 사라진 자리 40
4. 선택의 역설: 우리는 왜 우리를 가두는가 42
5. 질문의 전환: 제거가 아니라 주도권이다 43

3장 디지털 무임 노동자의 탄생: 우리는 왜 공짜로 일하는가? 55
1. 데이터 노동: 우리는 디지털 소작농이다 55
2. 감시 자본주의: 당신의 이름이 아니라, 당신의 흔들림을 훔친다 58
3. 넛지(Nudge): 자유의지로 포장된 강제 60
4. 은폐의 기술: 블랙박스와 매스 워싱 62
5. 우리는 주인인가, 자원인가? 67

4장 생각하지 않는 사람들: 알고리즘이 만든 바보들의 감옥 73
1. 생각의 외주화: 우리는 질문을 멈췄다 73
2. 인지적 위축: 뇌가 게을러지고 있다 75
3. 알고리즘은 거울인가, 창문인가? 77

5장 알고리즘의 두 얼굴: 진실의 붕괴와 환각 83
1. 환각: 거짓말하는 앵무새 83
2. 딥페이크: 보는 것이 믿는 것인 시대의 종말 85
3. 모델 붕괴와 포스트 트루스 86

6장 더 위험한 알고리즘: 통제의 균열로 시작되는 AI의 역습 93
1. 우리는 알고리즘을 너무 순진하게 생각했습니다 93
2. 로봇 스토어의 풍경: 계급이 된 기술 96
3. 피지컬 AI: 현실의 디지털 복제, 그 너머의 통제 100
4. 2족 보행 휴머노이드 로봇: 인간을 닮은 감시자 105
5. 뉴로모픽과 BCI: 뇌 속으로 들어온 알고리즘 108
6. 생성형 AI와 AI 에이전트: 말하는 AI에서 행동하는 AI로 115
7. AI와 AI가 만드는 세상: 통제를 벗어난 소통 117
8. 주권을 지키기 위한 첫걸음 121

7장 알고리즘의 노예에서 주인으로: 주권 선언 129
1. 어느 날, 내 생각이 내 것이 아니게 되었다 129
2. 알고리즘의 작동 원리: 매트릭스의 내부 134
3. 인간의 반격: 예측 불가능한 존재가 되라 137
4. [자가 진단 & 워크북] 디지털 주권 회복을 위한 7일 트레이닝 145
5. 다시, 인간으로 147

이영호 저자는 1990년대 컴퓨터 DOS 시절부터 프로그래밍의 기초를 다지며 한국 IT 산업의 태동기를 온몸으로 겪은 1세대 소프트웨어 전문가입니다. 신촌 중앙정보처리학원에서 베이직, 포트란, 코볼 등 다양한 언어를 섭렵한 후, (주)큰사람컴퓨터에서 실무 감각을 키웠습니다. 이후 프리랜서 프로그래머로 독립하여 수많은 프로그램을 직접 설계하고 개발하며 현장 경험을 축적해 왔습니다.
AI의 위험성을 경고한 전작 《챗GPT의 거짓말》을 통해 기술의 이면을 꿰뚫어 보는 날카로운 통찰력을 보여준 바 있습니다. 이러한 탄탄한 실무 경험과 철학을 바탕으로, 이번 책에서는 알고리즘의 작동 원리와 AI 생태계의 이면을 독자들에게 알기 쉽게 풀어냅니다.