AI가 쉬워지는 최소한의 수학(최소한의 지식 3)

매일 학생들을 가르치고 하루가 다르게 변화하는 교육 현장을 몸소 실감하는 저자는, 인공지능 시대는 '개인의 역량'이 더욱 요구되며, '왜'를 물어 인공지능의 능력을 자신의 역량으로 승화하는 깊이 있는 학습이 필요하다고 말한다. 이제는 인공지능을 '많이' 사용하기보다 '제대로' 사용해야 하는 때이기 때문이다. 이 책은 바로 그 인공지능의 '왜'를 탐구한다.
총 7장으로 구성된 이 책은 챗봇(1장), 추천 알고리즘(3장), 자율주행차(6장), 생성형 알고리즘(7장) 등 우리 삶에 깊숙이 연결되어 있는 인공지능에 숨은 수학적 원리들을 3단계(수학 개념→인공지능 작동 원리→심화 탐구)로 살펴본다. 저자가 청소년들이나 수학을 전공하지 않은 일반 독자 입장에서 이해하기 복잡한 수식은 최대한 쓰지 않으려 했다고 자부하는 만큼, 지레 겁먹거나 망설일 필요는 없다. 누구나 공감할 만한 흥미로운 사례에 인공지능을 이해하기 위해 꼭 필요한 수학이 정확히 꺼내어져 연결되는 만큼, 재미 역시 보장한다. 저자의 친절한 안내를 따라가다 보면 "막연하게만 느껴지던 인공지능의 경사하강법, 행렬 분해, 합성곱 같은 핵심 개념들이 놀랍게도 우리가 배운 고등학교 수학의 언어로 명쾌하게 풀"리는 경험을 할 수 있을 것이다.(김재경 카이스트 수리과학과 교수 추천)

★★★ 카이스트 수리과학과 김재경 교수, 서울대학교 수학교육과 유연주 교수 추천!
★★★ 고등학생부터 현직 교사, 인공지능 개발자까지, 먼저 읽은 베타리더들의 극찬

생성형 인공지능 전성 시대, 왜 수학인가?
챗봇, 추천 알고리즘, 자율주행차, 인공신경망까지
수학은 인공지능을 이해할 핵심 언어

인공지능을 이해하는 데 다른 도구보다 수학이 핵심인 이유는 수학이 복잡한 인공지능을 구조화하여 보여주는 '핵심 언어'이기 때문이다. 많은 베타리더가 '막연했던 인공지능 개념을 수학적 논리로 명확히 정립한다'고 평했듯, 《AI가 쉬워지는 최소한의 수학》은 전형적인 수학 교과 목차를 따라가지도, 코딩 같은 복잡한 공학 도구 사용법을 안내하지도 않으면서 인공지능을 이해하기 위해 꼭 필요한 수학만 정확히 꺼내어 연결해준다.

'챗GPT 상담사'로도 익숙한 '챗봇'을 다루는 1장을 살펴보자. 인공지능은 어떻게 인간의 복잡한 언어를 이해하고 다루는 걸까? 사용자가 원하는 말투로, 맥락에 따라 적절한 답변을 내놓는 알고리즘은 어떻게 가능한 걸까? 수학의 눈으로 보면, 답은 간단하다. 단어와 문장의 의미를 좌표평면 위에 수치로 표현하는 '벡터'와, 다음에 올 가능성이 높은 단어를 예측하는 '확률' 두 가지 개념만으로 인공지능이 작동하는 구조를 명확히 설명할 수 있다. 책은 단순히 인공지능과 수학을 도식적으로 연결하는 데서 그치지 않고 실제로 현장에서 유용하게 쓰이는 TF-IDF, 어텐션 메커니즘, N-그램 모델 같은 언어 모델의 수학적 원리를 소개하며 실용적 지식까지 놓치지 않는다.

어텐션은 문장 안의 단어들이 서로를 바라보는 구조로 작동합니다. 하나의 단어가 기준이 되어 다른 단어들과의 관련성을 비교하며 '이 단어는 나에게 얼마나 중요한가?'를 스스로 계산하는 것이죠. 이때 단어와 단어 사이 연관성은 수학적으로 '유사도'를 계산하여 정량화합니다. 유사도가 높은 단어일수록 중요하다고 판단하여 더 큰 숫자를 부여하고, 그렇지 않은 단어는 작은 숫자를 부여합니다. 중요도를 결정하면 인공지능은 문장을 이해할 때 어떤 정보에 더 집중할지를 결정합니다. _본문 중에서

이외에도 손실함수로 최선의 답을 찾아가는 경사하강법(2장)과 숨은 패턴을 발견하는 행렬 분해(3장), 이미지에서 특징을 추출하는 합성곱(6장) 등을 차근차근 따라가다 보면, "인공지능을 제대로 이해하는 힘의 중심에 수학이 있다는 저자의 말에 동감하게 된다."(김승현 한국교원대 컴퓨터교육과 교수 추천) 기술의 발전은 공학이 이루어내지만, 인공지능의 작동을 설계하고 새로운 길을 찾아내는 일은 수학의 역할이다. 저자의 표현대로 수학은 "인공지능의 신경이자 심장"인 셈이다.

인공지능의 메커니즘을 이해하지 못하면 기술이 제공하는 선택지에 갇힐 수밖에 없다. 수학적 사고로 문제를 바라보고 새로운 길을 개척할 수 있어야 하는 이유다. 이 책은 벡터와 행렬, 함수, 미분, 확률, 통계 등 수학의 개념이 어떻게 인공지능의 다양한 방법론으로 구현되는지 실제로 보여준다. _유연주 서울대학교 수학교육과·AI융합교육학과 교수


인공지능이 보편화될수록 인간의 역량이 중요해진다!
AI 문해력을 키우는 수학적 사고법이란?

2016년 알파고가 이세돌 9단을 상대로 승리를 거두었다. 충격도 잠시, 바둑계는 빠르게 인공지능의 능력을 인정하고, 인공지능을 이기기보다는 활용하는 쪽으로 선회했다. 인공지능 바둑의 상용화로 누구에게나 실력을 키울 기회가 열렸고, 업계에서는 바둑 기사들의 실력이 상향 평준화될 것이라고 예상했다. 하지만 결과는 정반대였다. 오히려 바둑 기사 사이 격차가 더욱 커진 것이다.
모두에게 같은 기회가 주어졌음에도 격차가 커진 이유는, 인공지능이 결과만 보여줄 뿐 왜 그런 결과가 나왔는지는 보여주지 않기 때문이다. 인공지능이 같은 결과를 내어놓아도, 바둑 기사들은 각자의 실력에 따라 그 안에 담긴 지식과 맥락, 의미가 다른 수준으로 이해했다.

평소에 바둑계의 변화를 유심히 들여다보던 저자는, 이러한 통찰이 인공지능 대전환 시대를 살아가는 모두에게 적용될 만하다고 말한다. 이를 바탕으로 지금 개인에게 요구되는 핵심 역량을 세 가지로 정리했다. 먼저 정답만 확인하는 것을 넘어 원리를 이해하려는 노력이다. 깊이 있는 이해를 바탕으로 인공지능의 도움을 제대로 활용하기 위함이다. 두 번째는 폭넓은 학습이다. 여러 분야를 종합적으로 사고할 줄 알아야, 인공지능의 조언을 비판적으로 평가할 수 있기 때문이다. 마지막으로 능동적 실천이다. 인공지능은 훌륭한 조언자가 될 수 있지만, 최종 결정과 실행은 인간의 몫이다. 이 세 역량을 얼마나 키우느냐에 따라 우리는 인공지능으로 그저 편리함만 누릴 수도, 비약적으로 성장할 수도 있다.

인공지능 문해력을 키우는 수학적 사고법이란?
ㆍ 세상을 표현하고 형식화한다
ㆍ 방법을 정밀하게 설계하고 검증한다
ㆍ 인공지능의 결과를 해석하며 신뢰할 수 있다

2022 개정 교육과정 고등학교 '인공지능 수학' 교과서를 집필하고, 한국교육과정평과원 인공지능 수학 예시 평가 도구 개발에 참여하는 등, 관련 활동을 활발히 해온 저자는 자신이 인공지능 수학을 공부하며 아쉬움을 느꼈던 부분을 책에 풍성하게 담아내고자 여러 차례 원고를 고쳐 쓰기를 마다하지 않았다. 기존 수학이 정확한 계산으로 딱 맞는 답을 도출해야 한다는 한계를 지녔다면, 이 책은 인공지능에서 서로 다른 수학이 소통하고 보완하며 교차하는 지점을 펼쳐 보인다. 2장에서 예측 모델로 배운 손실함수와 경사하강법은 데이터 분류를 다루는 4장과 생성형 인공지능의 작동 원리를 다루는 7장에서 확장되는데, 이렇듯 하나의 수학이 갖는 여러 면모를 다각도에서 살펴보며 독자는 '인공지능 문해력'을 키우는 '수학적 사고법'의 힘을 자신의 것으로 만들 수 있을 것이다.

수학은 인공지능 시대의 가장 중요한 설계 기술이자 중요한 문해력입니다. 과거에 글을 읽고 쓸 줄 아는 것이 문해력이었다면, 지금은 인공지능을 올바로 읽고 쓸 줄 아는 새로운 문해력이 필수적이죠. 그 핵심에는 수학이 있습니다. 수학의 눈으로 인공지능의 데이터와 방법을 읽어낼 수 있고, 결과가 올바른지 해석할 수 있습니다. 또한 더 나은 알고리즘을 선택하거나 기존의 알고리즘을 개선할 수도 있고, 왜곡되거나 잘못된 결과를 판단할 수도 있습니다. _본문 중에서


인공지능 발전사는 수학 문제를 해결해온 역사
수학의 눈으로 보면 인공지능의 미래가 보인다

1600년대 초, 요하네스 케플러는 수학과 기하학으로 천체 움직임을 해석했고, 마침내 밤하늘을 맹신의 대상에서 이해의 대상으로 바꾸어놓았다. 예측의 근거를 '막연한 추측'에서 '확신의 수학'으로 바꾼 것이다. 2020년대를 살아가는 우리 앞에도 케플러 시대의 밤하늘과 비슷한 인공지능이 있다. 챗GPT는 질문에 따른 놀라운 답변을 찾아주고, 의료 인공지능은 질병을 예측하며, 자율주행차는 앞으로 일어날 상황을 판단한다. 우리가 기계의 판단을 믿고 활용할 수 있는 이유는, 수학이 밤하늘을 투명하게 만들었듯 인공지능의 결과를 논리적으로 증명하기 때문이다.

가장 중요한 것은 수학이 인공지능의 신뢰를 보장한다는 점입니다. 인공지능은 수학이 발전하고 안정적으로 터를 내어놓은 수준 안에서만 발전할 수 있습니다. 마치 기초가 튼튼한 터전 위에 높은 건물이 세워지듯, 수학적 논리가 없는 인공지능은 허상에 불과하죠. 실제로 인공지능 발전사는 수학 문제를 발전해온 역사입니다. 앞으로 인공지능이 더 발전하려면 새로운 수학적 발견이 필요합니다. _'저자의 말'에서

인공지능과 함께 살아가야 할 당사자로서 우리는 수학이 현재 인공지능의 토대인 동시에 미래 인공지능 발전의 중요한 기초라는 점을 유념해야 한다. 대형 모델이 복잡한 계산을 요구하는 문제나, 새로운 상황에서 성능이 떨어지는 문제 등 인공지능에는 아직 해결해야 할 문제가 여럿 존재한다. 역전파 알고리즘이 수학적으로 정리된 후에야 인공신경망의 학습이 이루어지고, 새로운 활성화함수의 발견으로 예측 모델의 기울기 소실 문제가 해결되었듯이, 앞으로 우리가 해결해야 할 인공지능의 문제들도 결국 수학이 해답을 찾을 것이다. 예나 지금이나 "인공지능 발전사는 수학 문제를 해결해온 역사"다.

수학은 수백 년 전 발견된 진리를 반복하는 낡은 학문이 아닌, 새로운 기술이 탄생할 토대를 쌓는 미래 지향적 학문이다. 딥러닝을 공부하거나 인공지능 도구를 개발하는 실무자뿐만 아니라, 인공지능 대전환 시대를 지나는 모든 사람에게 이 책을 권하고 싶은 이유다. 수학이 세상을 어떻게 표현하며 인공지능을 살아 움직이게 하는지, 또 인공지능이 세상을 어떻게 설명하고 조금씩 바꿔가는지, 작은 여행을 떠나보자는 《AI가 쉬워지는 최소한의 수학》의 제안을 수락해보자. 책을 덮고 여행을 마무리할 즈음엔 "수학을 공부하면 평생 재미있게 살 수 있다"는 저자의 말에 고개를 끄덕이게 되리라 믿는다.

추천의 말
베타리더들의 생생한 후기

프롤로그 생성형 인공지능 시대, 왜 '수학'인가?

1장 챗GPT 상담사는 어떻게 사람처럼 대화할까? : 단어와 단어를 잇는 벡터
- 컴퓨터는 '사과'를 어떻게 받아들일까?
- 챗봇이 자연스러운 문장을 구상하는 방법
- 더 풍성한 대화를 나누고 싶다면?

[심화 탐구 1] 벡터의 내적과 각도 사이의 관계
[심화 탐구 2] 소프트맥스 함수와 지수함수

2장 미래를 예측하는 인공지능 모델은 가능한가? : 손실함수로 오차를 줄여라!
- 1도가 오를 때 아이스크림 매출의 변화는?
- 수학이 '오답 노트'를 작성하는 방식
- 인공지능은 왜 '반복 학습'을 할까?

[심화 탐구 1] 다변수함수의 경사하강법
[심화 탐구 2] 작은 웅덩이를 넘어서 : 모멘텀으로 경사하강법 보완하기

3장 추천 알고리즘은 진짜 내 취향을 아는 걸까? : 행렬 분해를 알면 패턴이 보인다
- 수학이 나의 취향을 말해준다
- 코미디 영화를 좋아하면서 로맨스 영화를 좋아할 확률
- 취향을 공유하는 '나만의 그룹'을 찾아서

[심화 탐구] 행렬 분해에서 경사하강법을 활용한 학습

4장 어떤 근거로 기계의 판단을 믿을 수 있을까? : 새로운 데이터를 분류하는 알고리즘
- 기계가 결정을 내리는 기준
- 거리를 계산할까? 구분선을 그을까?
- 신용 평가 방법과 승률 계산 방법이 같다고?

[심화 탐구] 최적값을 찾는 라그랑주 승수법

5장 인공신경망은 정말 인간처럼 '생각'할까? : 합성함수로 신경망을 쌓기
- 복잡한 사고의 이동 경로, 뉴런을 모방하다
- 스스로 생각하는 신경망의 탄생
- 퍼셉트론에서 딥러닝까지, 인공신경망의 폭발적 발전

[심화 탐구] 다층 퍼셉트론 학습의 장애물 : 기울기 소실 문제

6장 자율주행차는 어떻게 도로에서 장애물을 구별할까? : 행렬은 이미지를 들여다보는 돋보기
- 숫자로 색깔을 표현할 수 있다고?
- 자율주행차가 표지판의 정보를 읽어내는 법
- 스마트폰의 페이스 ID부터 자율주행차의 물체 감지까지

[심화 탐구 1] 행렬이 만들어내는 마법, 합성곱 신경망
[심화 탐구 2] 자율주행의 핵심 수학 기반, 베이지안 추론

7장 : 생성형 인공지능이라는 화가의 비밀? : 아름다움을 만드는 자연법칙, 통계
- 인공지능의 '창의성'은 어디에서 오는가?
- 대상의 특징을 추출하고 복원하는 '오토인코더'
- 전에 없던 것을 만들어내는 또 하나의 메커니즘

[심화 탐구] 수학의 아름다움, 중심극한정리

에필로그 개인의 역량이 더욱 중요해지는 시기가 온다
사진 출처

이동준 포항공과대학교 수학과, 서울대학교 수학교육과를 졸업하고 서울대학교 대학원에서 석사 과정을 수료했다. 2009년부터 이화여자고등학교에서 수학을 가르치고 있으며, 2024년 한국교원대학교 교육대학원 컴퓨터교육과를 졸업한 후 정보도 함께 가르치고 있다. 수학과 인공지능을 융합한 교육에 관심이 많으며, SW 및 피지컬 컴퓨팅, 메이커 교육 분야에서도 꾸준히 연구와 개발을 이어가고 있다.
2022년 통계교육원 교사연구회 서울 대표로 통계 기반 이공계 융합 교육 모델을 개발했고, 2022 개정 교육과정 고등학교 '인공지능 수학' 교과서를 집필했다. 2024년 한국교육과정평가원 인공지능 수학 예시 평가 도구 개발에 참여했으며, 2025년 서울시교육청 AI 디지털 콘퍼런스에서 인공지능 수학 교육 사례를 발표했다. 현재 한국교육학술정보원(KERIS)의 'AI 교육 역량 강화 멀티 트랙 연수 개발'에 인공지능 수학 분야 대표 교사로 참여 중이다.
2022~2023년 인공지능 교육 선도학교, 2025년 정보 교육 중심학교를 운영했고, 인공지능과 수학 관련 교원 연수 및 학생 캠프를 꾸준히 진행하고 있다. 지은 책으로는 《소프트웨어 계열 진로진학 끝판왕》(공저)이 있다.