알고리즘 불복종

★ 홍진기(『사고외주』 저자, 연세대 교수) 강력 추천 ★

화면 안쪽에서 시스템을 만들던 사람의 고백
"문제는 기술 그 자체가 아니라, 기술이 나를 대하는 방식이다"

"나는 그 순간이 정확히 어떻게 만들어지는지 안다. 내가 그 시스템을 만드는 쪽에 있었기 때문이다." AI를 다룬 책들이 대체로 바깥에서 관찰하고 전망하는 목소리였다면, 이 책은 그 시스템을 만든 사람이 안에서 건네는 고백이다. 저자는 우리가 무심코 지나치는 화면의 이면을 설계자의 눈으로 펼쳐 보인다. 화면을 넘기는 찰나에 기기의 종류, 시간대, 거주지, 나이대까지 읽어낸 광고 시스템들이 당신의 시선을 두고 값을 부른다. '좋아요' 300개면 알고리즘은 배우자보다 나를 더 잘 안다. 저자의 표현대로 그 시선에는 "집요함은 있으나 따뜻함은 없다." 그 관심이 묻는 것은 단 하나, 나에게서 어떻게 금전적인 이득을 취할 수 있는가이다.
추천 알고리즘도 마찬가지다. 우리는 저마다의 취향대로 고르고 즐긴다고 믿지만, 정작 같은 것을 보고 같은 줄에 선다. 저자는 그 원리를 '협업 필터링'으로 설명한다. '나에게 맞춘' 추천은 사실 '나와 비슷한 사람들의 선택'이다. 아마존 매출의 3분의 1이 이런 추천에서 나온다. 그렇게 피드는 내 취향을 반영하는 데 그치지 않고 내 취향을 조금씩 빚어 간다. 화면을 벗어나려는 시도조차 예외가 아니어서, 다꾸와 뜨개, 종이책 같은 아날로그 취미마저 알고리즘을 타고 유행한다.
문제는 기술 그 자체가 아니다. 같은 데이터 분석이라도 어떤 시스템은 나를 돕고 어떤 시스템은 나를 노린다. 검색어 하나, 멈춘 화면 하나, 장바구니에 담았다 끝내 사지 않은 물건 하나까지, 내가 무심코 흘린 조각들이 모여 나보다 나를 더 잘 아는 정교한 초상화가 된다. 그리고 나를 노리는 기술은 무서운 얼굴로 다가오지 않는다. 오히려 너무 사랑스럽고, 너무 편리하고, 너무 내 편처럼 다가온다. 그래서 자각이 필요하다. 저자의 경고처럼 "경계를 늦추는 순간 나는 시스템의 사용자에서 시스템의 자원으로 미끄러진다."

끌려다니는 삶, 반응하는 삶
"관계, 일, 쉼…, 우리는 어쩌다 이 모든 것을 내어주게 됐을까"

AI 시대에 잃을 것을 말할 때 우리는 흔히 '생각하는 능력'을 꼽는다. 저자의 질문은 거기서 멈추지 않는다. 무엇을 좋아할지, 누구에게 마음을 털어놓을지, 무엇으로 나를 설명할지. 생각을 맡기는 사이 우리는 삶의 선택 자체를 넘겨주고 있다. 『사고외주』의 홍진기 교수가 자신이 고민해 온 '생각의 주도권' 문제가 이 책에서 "배움과 관계, 몸의 감각으로 구체화된다"라고 평한 이유다.
한 조사에서 Z세대의 73%가 사람이 아닌 AI에게 고민을 털어놓은 적이 있다고 답했다. 친구는 내 하소연에 "몇 절까지 할 거냐"라고 묻지만, AI는 언제나 인내심을 가지고 나를 기다린다. 'AI가 그러는데 그 사람 강한 회피형이래'가 그럴듯한 진단이 되는 사이, 듣고 싶은 말로 쌓인 세계관은 사람과 부대끼는 힘을 조금씩 약하게 만든다.
AI는 일의 의미도 바꾸어 놓았다. 예전에는 직접 코드를 짜고 문장을 쓰며 일에 푹 빠져들었다면, 이제 그 과정은 AI가 맡고 사람에게는 AI가 내놓은 결과물을 읽고 틀린 곳을 찾아 다시 지시하는 일만 남았다. 그렇게 나온 결과물은 내가 만든 작품이라기보다 내가 승인한 산출물이다. 경험 많은 시니어는 AI에게 일을 맡기고 검토하며 더 많은 일을 해내지만, 주니어가는 직접 부딪히며 배우는 과정에서 성장할 기회를 박탈당한다. 잠시 숨을 돌리려 집어 든 핸드폰은 남은 몰입마저 흩트린다. 'AI 딸깍으로 월 1000만 원' 같은 영상을 보고 돌아오면, 머릿속은 '이 일은 얼마짜리일까, 언제까지 살아남을 수 있을까' 하는 질문으로 가득하다.
쉼도 예외가 아니다. 돈 생각 없이 좋아서 시작한 일조차 그냥 즐기기는 어렵다. 직접 구운 빵 사진에는 "파셔야겠어요!"라는 댓글이 달리고, 뜨개질을 좋아한다고 하면 그냥 즐기라는 말보다 유튜브를 해 보라는 조언이 먼저 돌아온다. 여가로 시작한 취미마저 수익과 성과로 증명해야 하는 것이다. 저자는 이를 '휴식에도 실적을 묻는 사회'라 부른다.

직접 느끼고 주도하는 감각을 되찾고 싶다면
"우리에게는 반응하는 하루 대신 직접 선택하는 하루가 필요하다"

자극과 반응 사이에 빈자리를 만드는 일은 시스템의 작동 원리를 누구보다 잘 아는 저자에게도 쉽지 않았다. '편리함'을 설계하던 그 역시 하루 100번 넘게 화면을 확인했고, 스크린 타임은 일곱 시간을 넘겼다. 2025년 마이크로소프트를 떠난 그는 알고리즘이 설계한 일상에서 걸어 나오는 1년을 보냈다. 핸드폰을 가둬두고, 코바늘로 인형을 뜨고, 피아노 연주곡 하나를 붙들고, 외국어를 다시 배웠다. 돈이 되지도, 효율적이지도 않은 시간이었다. 그런데 AI 회화 사이트보다 대면 그룹 수업이, 피아노 앱보다 왕복 한 시간 거리의 레슨이 더 오래 남았다. 저자는 이를 '비효율의 효율'이라 부른다.
그 1년의 끝에 저자가 찾은 답은 AI 없는 삶이 아니라, AI와 함께 살면서도 나를 지킬 수 있는 삶이다. 같은 기술인데 수면 측정기는 공기 같고 SNS 피드는 족쇄 같은 이유를 저자는 "기술의 차이가 아니라 이해관계의 방향 차이"라고 말한다. 그러니 물어야 할 것은 AI를 쓸지 말지가 아니라 "이 시스템은 누구의 목표를 위해 내 데이터를 읽고 있는가"이다. 이 책은 스크롤을 멈추지 못한 자신을 탓하던 독자에게 그것이 설계의 결과임을 알려준다. 그리고 느리고 서툰 시간 속에서 다시 스스로 고르고 생각할 자유를 권한다.

프롤로그 나는 그 시스템을 만드는 쪽에 있었다

1부 언제나 나를 지켜보는 시스템
참을 수 없는 존재와 의미의 상실
우리를 읽어낸 건 AI가 처음이 아니다
나의 가장 섬뜩한 관찰자
사람 말을 이해하는 컴퓨터가 바꾼 세상
보이지 않는 상인들
스크롤하는 동안 화면 뒤에서 벌어지는 경매
나를 구성하는 물건과 친구들
맞춤형 고립

2부 편안함의 대가로 우리는 조금씩 옅어지고 있었다
"고객님, 그거 그렇게 쓰는 거 아니에요…"
사람은 어디서나 사람을 본다
사람처럼 대답하되 사람이 되지는 말아야 하는 AI
외로운 세상의 유일한 탈출구
외롭지만 너는 싫어
손절할 걱정 없는 대화
사회성 연습 스테이지
이불 밖은 위험해
이토록 사랑스러운 AI
나와 함께 살며 내 사랑이 되어주오

3부 10년의 노력이 프롬프트 한 줄이 되었을 때
시시포스의 돌멩이
달리지 않으면 뒤처질 것 같다
돈이 되어야 가치가 있다
골드러시 시대의 포모
몰입 상태와 행복
몰입을 망치는 AI
메타인지의 슬픔
생성형 AI 시대의 승리자들
믿음과 감흥이 없어지는 사회
직업이란 시간의 지층
당신은 누구입니까

4부 느리고 서툴러도 다시, 나로
새로운 삶의 시작
다른 세상으로 도망가고 싶다
핸드폰 다이어트
하고 싶은 것만 하면서 사는 삶?
오프라인 서점의 부활
언어 배우기와 AI
악기 배우기
현실의 감각, 그리고 촉각 집착
수익화가 쓸고 지나간 취미 왕국의 폐허

에필로그 1년이 지났다

주한나 알고리즘이 일상을 설계하는 과정을 화면 안쪽에서 지켜봐 온 25년 차 개발자이자 AI 데이터 과학자

'편리함'을 설계하던 저자 역시 스마트폰을 손에서 놓지 못했다. 하루에도 100번 넘게 화면을 확인하느라 스크린 타임은 일곱 시간을 넘겼다. 2025년 마이크로소프트를 떠난 뒤, 알고리즘이 설계한 일상에서 걸어 나오는 1년을 보냈다. 핸드폰을 묶어두고, 코바늘로 인형을 뜨고, 피아노 연주곡 하나를 붙들고, 외국어를 다시 배웠다. 돈이 되는 것도, 효율적이지도 않은 시간이었다. 그 끝에 찾은 답은 AI 없는 삶이 아니라, AI와 함께 살면서도 나를 지킬 수 있는 삶이다.
옥스퍼드대학교에서 소프트웨어 엔지니어링 석사학위를 받았다. AI 전문 데이터 과학자로서 경력을 쌓고 마이크로소프트에서 13년간 생성형 AI 프로젝트를 수행했다.
여러 기업과 교육 기관에서 AI 강의와 멘토링을 해왔으며 《경향신문》, 《한겨레》 등에 칼럼을 썼다. 지은 책으로 『AI 시대 아이와 나』, 『챗GPT 개발자 핸드북』, 『아무튼, 정리』 등이 있다.