AI 나라의 홍콩할머니

기술은 중립적이지 않다
알고리즘의 문턱을 넘어, 다른 세계를 설계하는 법



우리는 매일 수많은 알고리즘을 통과한다. 무엇을 볼지 추천받고, 어떤 광고를 만날지 결정되며, 금융과 행정 서비스의 대상이 되고, 때로는 복지와 지원의 자격을 판정받는다. 이러한 과정은 빠르고 효율적이며 객관적인 것으로 설명되지만, 알고리즘의 판단은 결코 아무런 배경 없이 만들어지지 않는다. 그 안에는 특정한 역사와 제도, 데이터와 노동, 자본의 이해관계가 얽혀 있다.

《AI 나라의 홍콩할머니》는 인공지능과 알고리즘을 단순한 기술의 문제가 아니라 '사회적 선별과 배제의 문제'로 바라본다. 알고리즘은 코드만으로 구성된 것이 아니다. 그것을 개발하고 운영하는 기업, 데이터를 생산하고 가공하는 노동, 막대한 전력을 소비하는 인프라, 자동화의 이름 아래 가려진 사람들의 손이 합쳐져 움직인다. 따라서 AI를 이해한다는 것은 기술의 성능만 살피는 일이 아니라, 그 기술이 어떤 사회적 조건 속에서 만들어지고 누구의 삶을 기준으로 운영하는지 묻는 일이다.

책의 1부 '거대한 나라의 문턱에서'는 AI 생태계의 거시적 구조를 살핀다. 알고리즘 뒤에 숨은 산업과 인프라를 추적하고, 숫자와 데이터가 어디에서 왔는지, 과거의 차별과 불평등이 어떻게 데이터의 형태로 남아 있는지를 들여다본다. 객관적 사실처럼 보이는 숫자 역시 특정한 방식으로 세계를 분류한 결과일 수 있으며, 기계는 과거의 편견을 제거하기보다 오히려 더 정교하게 재생산할 수 있다. 또한 자동화 뒤에 가려진 보이지 않는 노동과 클라우드 산업의 환경 비용을 통해, 편리함이 결코 공짜로 주어지지 않는다는 사실을 보여준다.

2부 '기묘한 나라의 선별자들'에서는 알고리즘이 국가와 제도의 문턱에서 어떤 역할을 하는지 살핀다. AI 규제와 감시의 주체는 누구인지, 복지 창구가 알고리즘으로 대체될 때 시민은 누구에게 설명을 요구할 수 있는지, 도움을 요청하는 행위가 어떻게 위험 신호로 변환되는지를 묻는다. 노동자는 자신의 일상을 기록하는 순간 데이터가 되고, 그 데이터는 다시 노동자를 평가하고 통제하는 기준이 된다. 국가가 사람을 이해하기 위해 만든 범주 역시 때로는 범주에 들어맞지 않는 삶을 지워버린다. 제도의 언어로 설명되지 않는 사람들은 도움을 받지 못하는 데서 그치지 않고, 존재 자체가 읽히지 않는 사람이 될 수 있다.

3부 '아주 작은 나라의 비밀번호'는 거대한 시스템이 개인의 삶에 닿는 구체적인 장면으로 내려온다. 클라이언트의 데이터는 어디로 이동하는가. 왜 어떤 설계는 처음부터 특정한 사람들을 고려하지 않는가. 시스템에 협조하지 않거나 데이터 제공을 거부할 권리는 보장되는가. 이러한 질문은 추상적인 기술 윤리의 문제가 아니라, 우리의 안전과 존엄, 사생활과 자기결정권에 관한 현실적인 문제다.

그러나 《AI 나라의 홍콩할머니》는 감시와 배제의 현실을 고발하는 데서 멈추지 않는다. 책은 보이지 않던 현실을 새롭게 기록하는 대항 데이터, 기존의 분류 체계에 이의를 제기하는 사람들, 당사자의 요구에서 출발해 기술과 제도를 다시 상상하는 실천을 함께 살핀다. 이를 통해 기술은 이미 주어진 운명이 아니라, 사회적 선택에 따라 다시 설계할 수 있는 것임을 강조한다. 이 책이 던지는 가장 중요한 질문은 'AI가 인간을 대신할 수 있는가'가 아니라,

우리는 어떤 사람을 정상으로 설정하고,
누구의 삶을 예외로 만들며,
어떤 기준을 미래의 시스템에 입력할 것인가!

《AI 나라의 홍콩할머니》는 AI를 둘러싼 논의를 전문가와 기업의 영역에서 시민의 삶으로 가져온다. 알고리즘이 누구를 분류하고, 어떤 사람을 문 안으로 들이며, 누구를 문밖에 남겨두는지 구체적으로 보여준다. 동시에 기술을 무조건 믿거나 두려워하는 대신, 기술이 만든 문턱을 발견하고 그 문을 다시 설계할 수 있는 가능성에 대해 이야기 한다.

알고리즘의 문턱 앞에서 우리에게 필요한 것은 순응이 아니라 질문이다. 그리고 질문을 넘어, 더 많은 사람이 들어갈 수 있는 문을 함께 만드는 일이다. 문은 이미 우리 앞에 있다. 이제 그 문을 어떻게 열 것인지는 우리의 선택에 달려 있다.

프롤로그 | 알고리즘이 두드린, 문 ㆍ 13


1부. 거대한 나라의 문턱에서(거시편)
1. AI 생태계
알고리즘 배후의 세계
2. 차별의 역사
숫자는 어디서 왔을까
3. 알고리즘 편향
기계가 사람을 틀리게 볼 때
4. 보이지 않는 노동
자동화 뒤의 손들
5. 클라우드의 그늘
편리함의 환경 비용



2부. 기묘한 나라의 선별자들 (중시편)
6. AI 규제와 감사(Audit)
누가 알고리즘에 질문을 던지는가
7. AI와 복지 전달
창구가 알고리즘이 될 때
8. 선별하는 알고리즘
도움 요청이 위험 신호가 될 때
9. 데이터가 되는 노동
당신이 기록하는 것이 당신을 바꾼다
10. 국가가 읽을 수 없는 사람들
카테고리 밖의 삶


3부. 아주 작은 나라의 비밀번호 (미시편)
11. 감시와 사생활
클라이언트의 데이터는 어디로
12. 설계된 배제
처음부터 당신을 생각하지 않았다
13. 거부하는 사람들
'아니오'라고 말할 권리
14. 대항 데이터
보이지 않는 것을 세는 사람들
15. 다르게 설계한다
사회기술적 상상력과 이용자 중심 AI

에필로그 | 문은 이제 우리가 연다

서정원 한국방송통신대학교 사회복지학과 교수

서울대학교 사회복지학과를 졸업하며, 한 사람의 삶을 넘어 사회 전체의 안녕을 돌보는 사회복지학의 가능성에 매료되었다. 같은 대학원에서 석사학위를 받은 뒤, 성균관대학교에서 미래인문학소셜앙트레프레너십 융합전공(디지털헬스케어)으로 박사학위를 받았다.
석사를 마치고 실천 현장에서 일하던 중 코로나19가 터졌다. 사회가 하루아침에 디지털로 옮겨가는 동안, 그 속도를 미처 따라가지 못하는 복지 현장을 지켜보며 고민이 깊어졌다. 전달체계와 자원, 그리고 사람들의 욕구를 어떻게 디
지털로 이어낼 것인가. 이 물음을 붙들고 씨름하는 학자가 되었다.
답을 찾기 위해 미국 럿거스 뉴저지 주립대학교(Rutgers, The State University of New Jersey)에서 인간-AI 상호작용(Human-AI Interaction)을 전공하고 정보과학 박사학위를 받았다. 기술이 복지를 어떻게 바꾸는지, 그 문이 누구에게 열리고 누구에게 닫히는지를 연구한다. 지금은 한국방송통신대학교 사회복지학과 교수로 〈사회복지실천론〉,〈AI와 사회복지〉,〈디지털리터러시와 사회복지〉, 〈디지털커먼즈와 사회복지〉를 담당하고 있다. 오래 품어온 그 고민을, 처음으로 이 책 《AI 나라의 홍콩할머니》에 담아 나누려 한다.