인공지능이 뽑은 반장

'나의 선택은 오로지 나만 할 수 있다는 걸 잊지 말기!'
'AI에게 차별을 가르치지 않는 세상이 오기를!'
'자율주행차가 모두에게 아름답고 행복한 여행을 선물하기를!'

바야흐로 인공지능 시대, 사람이 하던 일을 인공지능이 자동으로 해 줘서 편리해졌지만, 우리가 잘 살기 위해 만든 인공지능이 오히려 우리의 삶을 망가뜨릴 수도 있다. 그런 증거는 셀 수 없이 많고 나라 안팎을 가리지 않는다. 실제로 영국에서는 인공지능이 부자 동네 학생과 가난한 동네 학생을 점수로 차별해서 큰 사회문제가 되기도 했다. 바로 이것이 우리가 인공지능 윤리를 배워야 하는 까닭이고 어린이도 예외는 아니다. 기술을 만드는 것은 결국 사람이기 때문에, 우리가 지금 어떤 선택을 하는지에 따라 기술의 미래도 바뀔 것이라는 희망은 그래서 필요하다.
첫 번째 이야기 〈나만의 선택을 찾아서〉에서는 인공지능 추천 시스템에만 의지하다 보면 스스로 생각해서 결정하는 능력이 약해질 수 있음을 그렸다. 아이들은 오늘 뭘 먹을지도, 취미 생활도, 심지어는 친구를 사귀는 일까지도 스스로 결정하지 않고 인공지능의 추천에 맡긴다. 그러다가 체육대회 참가 종목을 정할 때 '달리기는 키 큰 아이가 빠르고 통통한 아이는 느릴' 거라는 인공지능의 편향된 판단을 그대로 믿을 위기에 놓인다. 하지만 아이들은 자신만의 타임캡슐을 열어보면서 알고리즘의 추천만 믿고 따른다면 다른 사람을 제대로 이해하고 사귀는 능력을 잃게 될 수 있음을 깨닫게 된다.
두 번째 이야기 〈인공지능이 뽑은 반장〉에서는 인공지능이 사람을 평가해도 되는지에 대하여 진지한 물음표를 던진다. 새 학기가 시작되자 선생님은 투표 대신 인공지능에 맡겨 반장을 뽑자고 제안한다. 인공지능은 사람과 달리 마음의 영향을 받지 않으니까 더 믿을 만하고, 누구에게나 기회가 주어지는 만큼 더 공정하다는 생각에 아이들도 환영한다. 하지만 아이들은 이내 인공지능의 결정을 믿을 수 없게 된다. 인공지능은 남자가 여자보다 리더십이 뛰어나다는 잘못된 결정을 내리고, 큰 학원에 다니는 아이들이 성적도 좋을 거라며 점수로 아이들을 차별하기도 하고, 민감한 개인정보를 허락 없이 사용해서 아이들을 당황하게 한다. 마침내 아이들은 '인공지능은 우리에 대해 모르는 게 많은 것 같다'는 의문을 가지고 우리 반만의 인공지능 사용 규칙을 정하기에 나선다.
세 번째 이야기 〈운전은 내가 할게〉에서는 '기술'만큼이나 중요한 '안전'과 '제도'에 대해 이야기한다. 만약 자율주행차가 사고를 피할 수 없는 상황에 놓였다면 어떤 판단을 내려야 할까? 한쪽에는 어린이가 있고 다른 한쪽에는 노인이 있다면 자율주행차는 누구를 우선 보호해야 할까? 한쪽에는 장애가 있는 사람, 다른 한쪽에는 장애가 없는 사람이라면? 이때 누구는 피하고 누구는 다치게 하는 것이 과연 공정하다고 할 수 있을까? 실수로 하늘나라 감옥에 갇히게 된 아이들의 이야기를 통해 자율주행차가 모두에게 도움이 되는 기술이 되려면 어떤 기준과 규칙이 필요한지 알게 된다.

앞 이야기
첫 번째 이야기 _ 나만의 선택을 찾아서
두 번째 이야기 _ 인공지능이 뽑은 반장
세 번째 이야기 _ 운전은 내가 할게
뒷 이야기

허유선과 학생들 동국대학교에서 〈인공지능 시대의 윤리〉를 강의한 허유선 선생님과 이 수업을 들은 김선일, 김유빈, 김원, 김지영, 박다은, 우연주, 이혜교, 장예은 학생이 함께 썼습니다. 미래의 주인공들에게 어떻게 하면 인공지능 윤리 이야기를 재미있게 들려줄 수 있을지 머리를 맞대고 이야기를 만들었습니다. 허유선 선생님은 '다 함께 잘 사는 삶'에 대해 연구하는 철학자입니다. 동국대학교 철학과에서 칸트 철학을 전공하고 강의와 저술 작업을 통해 '철학하다'의 재미와 의미를 안내하고 있습니다. 『인공지능 윤리를 부탁해』 등을 썼습니다.