AI가 내 생각을 읽는다고?(라임 주니어 스쿨 26)

인공 지능 시대를 주도할 우리 아이들의 '생각하는 힘' 업그레이드!
요즘 초등학교 교실에서는 아이들이 디지털 기기로 정보를 검색하고, 블록 코딩으로 로봇을 움직이는 모습을 흔하게 볼 수 있어요. 2022 개정 교육 과정에서도 디지털 기초 소양을 강조하며, 인공 지능과 빅 데이터 같은 새로운 기술을 이해하도록 정보 교육을 한층 강화하고 있지요.
학교 밖에서도 인공 지능은 이미 아이들의 일상에 깊숙이 자리하고 있습니다. 유튜브나 넷플릭스에서 추천 콘텐츠를 보고, 내 행동에 실시간으로 반응하는 게임 속 캐릭터를 만나며, 챗지피티에게 모르는 것을 물어보는 일이 꽤 익숙하지요. 그런 뜻에서 인공 지능은 이제 우리 아이들에게 공부와 놀이, 정보 탐색을 함께하는 친숙한 도구인 셈이에요.
하지만 인공 지능을 자주 사용한다고 해서 그 원리까지 제대로 알고 있다고 할 수는 없어요. 챗지피티가 내놓은 답이 어떤 과정을 거쳐서 만들어지는지, 유튜브나 넷플릭스는 왜 하필 그 콘텐츠를 내게 추천하는지 알아차리기는 쉽지 않으니까요. 인공 지능을 이용하는 시간이 늘어날수록 그 결과를 무조건 받아들이기보다는 한 번 더 생각해 보는 태도가 더욱더 중요해진다고 할 수 있어요.
지금 우리 아이들에게 필요한 것은 단순히 인공 지능을 능숙하게 다루는 기술만이 아닙니다. 챗지피티가 제시한 답을 공책에 그대로 옮기기 전에 사실인지 확인하고, 알고리즘이 골라 준 추천 목록 너머의 정보를 스스로 찾아볼 줄 알아야 해요. 인공 지능의 잘못된 판단이 누군가에게 피해를 주지 않는지도 깊이 고민해 보아야 하고요.
그런 의미에서 《AI가 내 생각을 읽는다고?》는 인공 지능 시대를 살아갈 우리 아이들에게 꼭 필요한 '생각하는 힘'과 '디지털 판단력'을 함께 길러 줄 든든한 길잡이가 되어 줄 거예요. 인공 지능을 둘러싼 여러 가지 궁금증을 아주 쉽고 친근하게 풀어 주고 있거든요.
알고리즘의 기초 개념에서 시작해 기계 학습의 예측 메커니즘, 넷플릭스나 유튜브의 추천 시스템과 챗지피티 같은 생성형 AI의 기술적 본질, 인간의 편견을 답습하는 데이터 편향, 여론을 왜곡하는 반향실 효과, 가짜 정보와 딥 페이크의 악용, 더 나아가 인공 지능의 통제와 책임을 둘러싼 윤리적 고민까지 폭넓은 정보와 지식을 아우르고 있어요.
무엇보다 이러한 내용들을 아이들의 생생한 일상과 연결해 다정하고 친근하게 들려줍니다. 학습용(훈련용) 데이터가 한쪽으로 치우치면 인공 지능의 판단에도 편견이 생길 수 있고, 추천 시스템은 자극적인 콘텐츠를 확산시킬 수 있다는 점을 짚어 주며, 인공 지능이 내놓은 결과가 언제나 정확하거나 공정하지는 않다는 사실도 일깨워 주지요.
결국 이 책은 아이들이 인공 지능을 무조건 맹신하거나 막연히 두려워하지 않고, 그 기술을 비판적으로 이해하며 책임감 있게 사용하도록 이끌어 주고 있습니다.



이 책의 특징

피자와 브라우니로 만나는 흥미진진 '인공 지능 알고리즘'의 원리!
'인공 지능' 하면 무엇이 가장 먼저 떠오르나요? 아마 사람처럼 말하고 걸어 다니는 SF 영화 속 로봇을 떠올리는 사람이 많을 거예요. 하지만 우리가 일상에서 만나는 인공 지능은 대부분 눈에 잘 보이지 않습니다. 검색 결과의 순서를 정하고, 좋아할 만한 영상을 추천하며, 게임 속 캐릭터를 움직이는 '알고리즘'의 형태로 우리의 생활 곳곳에서 일하고 있으니까요.
이 책에서는 '알고리즘'을 브라우니 요리법에 빗대어 설명합니다. 재료를 정해진 순서대로 섞어 오븐에 넣는 것처럼, 알고리즘도 컴퓨터가 따라야 할 지시 사항을 순서대로 모아 놓은 조리법과 같다는 것이지요.

같은 행동을 되풀이하는 '루프'는 피자를 먹는 과정으로 보여 줍니다. 배가 부르지 않으면 피자를 더 먹고, 배가 부르거나 남은 피자가 없으면 상자를 닫는 식입니다. 이처럼 친숙한 상황의 설정을 따라가다 보면 조건에 따라 행동이 달라지는 인공 지능의 원리를 저절로 이해하게 됩니다.
기계 학습은 강아지의 품종과 몸무게를 이용한 예측으로 풀어는데요. 인공 지능이 데이터를 살펴보며 분류와 예측의 기준을 찾아가는 과정에서 평균과 최빈값, 중간값 같은 기초 개념도 함께 익힐 수 있지요. 튜링 테스트와 챗지피티, 게임 속 NPC, 영화 추천, 온라인 광고, 새벽 배송 시스템 등 일상적인 사례를 통해 인공 지능의 놀라운 능력과 뚜렷한 한계까지 차근차근 짚어 나갑니다.

AI가 공정할 거라는 착각, 알고리즘의 덫과 미디어의 이면
인공 지능에는 감정이 없으니 언제나 공정할 것처럼 보이지요? 하지만 인공 지능은 인간이 제공한 데이터를 바탕으로 학습합니다. 학습용 데이터가 한쪽으로 치우치면 그 결과에도 편견과 오류가 나타날 수밖에 없어요.
이 책에서는 풋볼 리그의 남성 선수 사진을 주로 학습한 인공 지능이 여성 선수의 경기 사진을 제대로 알아보지 못한 사례를 소개합니다. 누구도 차별하라고 가르치지 않았지만, 학습 데이터가 한쪽으로 쏠려 있었기 때문에 차별적인 결과가 나온 것이지요. 이를 '6만 나오는 주사위'에 빗대어, 학습용 데이터가 잘못되어 있으면 알고리즘의 판단도 한쪽으로 치우칠 수밖에 없다는 걸 다시 한번 설명해 주어요.
실제 사건도 함께 살펴보는데요. 마이크로소프트의 챗봇 '테이'는 사용자들의 차별과 증오 표현을 따라 하다가 공개된 지 16시간 만에 운영이 중단되었다고 해요. 또, 오스트레일리아의 '로보데트'는 복지 수당을 잘못 계산해 엉뚱한 사람들에게 반환 고지서를 보내고선, 오류를 증명할 책임을 당사자에게 떠넘기기까지 했다나요.
그리고 추천 알고리즘이 사람들의 생각과 감정에 미치는 영향도 짚어 봅니다. 검색 엔진과 소셜 미디어는 클릭과 댓글이 많은 콘텐츠를 흥미로운 정보로 판단하기 때문에, 사람들이 반응하기 쉬운 자극적인 기사나 편견이 담긴 주장이 더 널리 퍼지는 경향을 띠지요. 또, 한쪽 정보만 계속 접할 경우 판단력에 어떤 영향을 미치는지도 상세하게 보여 주어요.

정답 없는 윤리적 딜레마 속에서 '자기만의 단단한 판단력' 장착하기
인공 지능은 방대한 자료를 빠르게 분석하는 데 매우 뛰어납니다. 그렇다면 무엇이 옳고 그른지를 판단하는 도덕적 문제까지 인공 지능에게 맡겨도 될까요?
이 질문에 답하려면 먼저 법과 윤리의 차이를 짚어 보아야 하는데요. 이 책은 칸트주의와 공리주의 같은 윤리적 기준을 끌어온 뒤 어린이 눈높이에 맞추어 풀어냅니다. 모두가 지켜야 할 원칙을 따를 것인지, 더 많은 사람에게 이로운 결과를 선택할 것인지에 따라 같은 문제도 전혀 다른 답에 이를 수 있다는 걸 보여 주지요.
이러한 고민은 자연스럽게 '자율 주행 자동차의 사고 상황'으로 이어집니다. 피할 수 없는 사고가 일어난다면 인공 지능은 과연 누구를 보호해야 할까요? 사고의 책임은 자동차를 산 사람과 만든 회사, 알고리즘을 개발한 엔지니어 가운데 누구에게 물어야 할까요?

또, 아이작 아시모프의 '로봇 3원칙'에 숨어 있는 허점과 유명한 '클립 생산 기계' 사고 실험을 다루는 대목에서도 흥미로운 질문을 던집니다. 클립을 더 많이 만들라는 명령을 받은 인공 지능이 오직 그 목표만 쫓다가 지구상의 모든 것을 클립 만드는 재료로 써 버리는 이야기인데요. 이를 통해 인공 지능에는 목표만 제시할 것이 아니라, 반드시 지켜야 할 한계와 안전 기준도 함께 정해 주어야 한다는 사실을 알려 주어요.
챗지피티를 공부에 활용하는 방법에 대해서도 조언을 하는데요. 모르는 개념을 묻거나 새로운 아이디어를 얻는 데는 무척 유용하지만, 글쓰기와 숙제를 처음부터 끝까지 모두 맡기면 스스로 고민하고 배우는 소중한 과정을 놓칠 수 있다고 경고합니다.
결국 가장 중요한 것은 인공 지능을 쓸 것인지 말 것인지가 아니라, 무엇을 위해 어디까지 사용할지 '자신만의 단단한 기준'을 세우는 일이라고 해요. 그래서 이 책에 등장하는 질문들에는 단 하나의 '모범 답안'이 정해져 있지 않습니다. 아이들이 스스로 여러 선택지 가운데 하나를 고른 뒤 그 이유와 결과를 따져 보고, 친구나 어른의 의견과 비교하면서 자신만의 건강한 판단 기준을 세워 갈 수 있게 도와주지요. 짧고 경쾌한 설명과 재치 있는 그림, 핵심을 콕콕 짚어 주는 '보글보글 팁 박스'가 읽는 재미를 더해 준답니다.
인공 지능의 기계적인 원리를 알려 주는 데서 그치지 않고, 이 기술을 앞으로 어떤 기준으로 이해하고 책임 있게 사용해야 할지 깊이 생각하게 만든다는 점이 바로 이 책의 가장 큰 매력이라 할 수 있어요.

이 책을 소개합니다

1부 인공 지능의 핵심 개념을 한눈에 쫙!

1. 인공 지능이 뭐라고요?
'인공'이 무슨 뜻이죠? | '지능'은요? | '알고리즘'이 뭔가요? | 알고리즘이 요리의 조리법 같다고요?
보글보글 팁 박스 : 영리하고 발칙한 고릴라, 코코 | 누가 인공 지능일까, 튜링 테스트

2. 인공 지능은 어디서 쓰일까요?
쉬지 않고 학습해요, 기계 학습 | '평균'은요? | '더 가깝다'고요? | 질문만 하면 척척, 챗지피티 | 게임의 전사들, NPC | 새벽 배송에도 알고리즘이? | 보고 싶은 영화도 탁탁!
보글보글 팁 박스 : 반려 로봇 시대가 곧 온다고? | 평균, 최빈값, 중간값, 뭐가 달라? | 이제는 아이디어도 인공 지능에서 | 날마다 똑똑해지는 딥 블루

3. 윤리와 법은 어떻게 달라요?
'윤리'가 뭐예요? | '법'은요? | 초콜릿을 훔칠까요, 말까요? | 하얀 거짓말은 해도 되나요? | 칸트주의와 공리주의는 뭐가 다른데요?
보글보글 팁 박스 : 착한 거짓말이 있다고? | 포켓몬 카드를 줍는다면, 윤리적 딜레마

2부 알고리즘의 교묘한 덫, 인공 지능 윤리 문제

1. 비의도적 편향이 뭐예요?
우리가 바로 알고리즘의 선생님! | '편향'은 또 뭔가요? | 6만 나오는 주사위 | 잘못 훈련된 기계 학습 알고리즘이 인종 차별을? | 데이터 오염 공격
보글보글 팁 박스 : 대표적인 편항, 더닝 크루거 효과 | 정말 챗봇 테이의 잘못일까? | 권위 있는 사람의 말이 더 맞다?!

2. 인공 지능이 잘못 쓰일 수도 있다고요?
알고리즘이 망치나 드릴 같은 도구라고요? | 영리한 인공 지능이 전쟁 무기로? | 짜잔, 로봇 인플루언서 | 분노는 언제나 잘 팔려요 | 인간의 본성이 문제라고요? | 모두 나와 생각이 똑같을걸요 | 거품 안에 갇힌 사람들처럼, 반향실 효과
보글보글 팁 박스 : 온 세상이 다 내리쳐야 할 못은 아닙니다만… |로보데트 알고리즘의 대국민 사과 | 세상은 꽤 괜찮은 곳이야 | 우리 눈을 속이는 딥 페이크 영상 | 인공 지능 시대의 민주주의

3. 우리 삶 속의 인공 지능 비서
내 주머니 안의 컴퓨터, 스마트폰 | 인공 지능으로 내 일자리를 대체한다고요? 사람이 게을러서가 아니에요! | 인공 지능한테서 우리가 지켜야 할 것들 | 로봇 의사 선생님에게 진료를?
보글보글 팁 박스 : 기술 vs. 기술의 줄다리기 | 이미 현재 진행형 | 인공 지능도 어엿한 예술가?! | 인공 지능이 생성한 '가상 인플루언서'

4. 인공 지능의 통제와 로봇의 윤리
무서울 만큼 빠른 인공 지능의 발전 속도 | 아이작 아시모프의 로봇 3원칙 | 자율 주행 자동차가 사고를 내면요? | 로봇을 대하는 자세
보글보글 팁 박스 : 세대에 따라 바뀌는 '지능'과 '지식'의 차이 | 닥치는 대로, 클립 생산 기계

함께한 여행을 마무리하며

매슈 애그뉴 1987년에 오스트레일리아 애들레이드에서 태어났으며, 어린 시절부터 밤하늘의 별과 우주의 신비에 푹 빠져 지냈어요. 스윈번공과대학교에서 천체 물리학으로 박사 학위를 받은 뒤, 복잡하고 어려운 과학과 첨단 기술의 세계를 누구나 이해하기 쉽도록 유쾌하게 풀어내는 과학 커뮤니케이터로 활동하고 있습니다. 인공 지능이 온 세상을 뒤흔드는 눈부신 시대일수록 첨단 기술에 무작정 끌려다니기보다는, 스스로 생각하고 질문을 던지는 힘을 키우는 것이 매우 중요하다고 믿고 있어요.