수학의 역사

선사시대부터 인공지능 시대까지, 인류 최고의 지적 모험
숫자와 공식 뒤에 숨은 수학의 다양한 얼굴을 이야기로 만난다

우리는 흔히 수학이라고 하면 숫자와 기호, 복잡한 방정식을 떠올린다. 공식과 개념을 달달 외워야 하고, 추상적인 문제를 정해진 과정으로 잘 풀어야 하기에 수학이 마냥 어렵게만 느껴진다. 그럼에도 더 나은 학교로 진학하려면 수학은 '잘해야 하는' 필수 과목이다. 이런 압박감과 부담 때문에 어느 순간 수학에 대한 흥미와 공부 의지는 사라지고 만다. 자신도 모르는 사이에 들어선 수포자의 길. 이제 수학의 세계는 낯설게만 보이고 나와, 그리고 현실과는 동떨어져 타고난 재능을 지닌 '특별한' 사람들의 전유물처럼 여겨진다. 이렇듯 수학을 어렵고도 낯선 분야로만 여기거나 지루할 뿐이라고 생각하는 이들에게, 나아가 수학을 사랑하지만 더 다양하게 즐기고 싶어 하는 이들에게 이 책은 더 넓은 역사적 시야로 수학을 바라보게 해줄 뿐만 아니라 이전까지 갖고 있던 고정관념을 유쾌하게 깨뜨려준다.
수학은 어느 한 시대나 문명의 독점물이 아니라 수천 년 동안 서로 다른 지역과 문화에서 쌓이고 번역되고 전해지며 발전한 인류 공동의 지적 유산이다. 이 책은 선사시대의 뼈에 남은 계산 흔적에서 출발해 메소포타미아와 이집트, 고대 그리스, 중국과 인도, 이슬람 세계와 유럽을 거쳐 컴퓨터와 인공지능에 이르기까지 수학의 전 역사를 40개의 간결한 장으로 펼쳐 보인다. 피타고라스, 유클리드, 브라마굽타, 알콰리즈미, 뉴턴, 라이프니츠, 오일러, 리만, 힐베르트, 튜링, 뇌터, 미르자하니 등 시대를 바꾼 수학자들의 삶과 발견을 따라가며, 수학적 개념이 어떤 문제의식과 역사적 맥락 속에서 태어났는지를 흥미롭게 들려준다. 또한 공식의 암기보다 질문이 시작된 순간, 증명이 만들어진 과정, 오랜 난제를 둘러싼 논쟁과 실패, 그리고 새로운 사고방식이 열어젖힌 가능성에 집중한다.
그동안 수학을 인류 문명의 발전과 함께해온 지적 유산으로 소개하는 데 힘써온 영국의 수학사학자 스네자나 로렌스는 모두가 수학의 아름다움과 그 매혹적인 역사를 새롭게 느끼기를 바라는 마음을 담아 이 책을 썼다. 저자의 말처럼, 이제부터는 수학을 아무도 탐험하지 않은, 경이롭고도 신비로운 풍경이 곳곳에 숨어 있는 미지의 세계라고 상상해보는 것은 어떨까. 인생의 여정에서 멋진 도시나 아름다운 명소를 만났을 때처럼, 수학의 세계는 상상력이 가장 찬란하게 빛나는 곳이다. 그동안 쌓아온 지식을 기념품처럼 하나하나 모아 나만의 수학 지도를 완성하면 세상을 바라보는 시야도 한층 넓어진다. 무엇보다 마음을 가장 두근거리게 하는 주제를 찾아 깊이 탐구하여 새로운 영역으로 나아가고, 이미 접한 주제들과의 공통점과 차이점을 찾아보는 것도 수학을 통해 누릴 수 있는 즐거움일 것이다.
오늘날 수학은 과학과 공학, 경제, 암호학, 컴퓨터, 통신, 인공지능 등 거의 모든 현대 문명의 기반을 이룬다. 하지만 완성된 공식만 접하면 수학이 왜 필요했고, 어떤 질문에서 시작되었는지 알기 어렵다. 이 책은 수학의 발견을 시간의 흐름 속에 놓음으로써 개념의 의미를 자연스럽게 이해하도록 해준다. 바빌로니아의 60진법과 플림턴 322, 이집트의 린드 수학 파피루스, 피타고라스학파의 비밀스러운 공동체, 유클리드의 「원론」, 인도에서 정립된 0과 음수의 개념, 바그다드의 '지혜의 집'에서 이루어진 번역과 지식의 전승을 살펴보면 수학이 특정한 천재 한 사람의 머릿속에서 갑자기 탄생한 것이 아님을 알게 된다. 수학은 선대의 지식을 배우고, 다른 문명의 성과를 번역하고, 기존 문제에 새로운 해법을 덧붙이는 과정에서 성장했다.
각 장은 독립적인 이야기를 들려주면서 다음 장과의 연결고리로 맺는 구성 방식이다. 역사적 사건과 인물의 일화를 먼저 제시한 뒤 정리와 개념을 설명하고, 그 발견이 이후 어떤 학문과 기술로 이어졌는지를 보여준다. 따라서 앞에서부터 통독하여 수학의 흐름을 따라갈 수도 있고 0, 확률, 미적분, 무한, 게임 이론, 프랙털, 고차원 등 관심 있는 주제부터 골라 읽을 수도 있다.

위대한 발견과 증명, 논쟁, 그리고 수학 천재들의 이야기
호기심과 상상력이 빚어낸 수학의 원리와 아이디어를 통찰하다

수학의 역사는 위대한 발견의 역사이자 이름과 공로를 둘러싼 논쟁의 역사다. '피타고라스 정리'와 관련된 수학적 지식은 피타고라스보다 앞선 메소포타미아에서도 확인된다. 삼차방정식의 해법을 둘러싼 르네상스 시대 수학자들의 경쟁, 뉴턴과 라이프니츠 사이에서 벌어진 미적분학 우선권 논쟁, 수백 년 동안 이어진 페르마의 마지막 정리 도전은 수학이 냉정한 공식만으로 이루어진 학문이 아니라 명예와 야망, 협력과 갈등이 뒤섞인 인간의 역사임을 보여준다.
특히 이 책은 '고독한 천재'로 기억되는 수학자들이 실제로는 편지, 학회, 번역, 공동 연구와 국제적 네트워크를 통해 지식을 주고받았다는 사실을 강조한다. 인터넷이 없던 17세기에 마랭 메르센은 유럽 수학자들의 편지를 전달하며 정보 교류의 중심이 되었고, 20세기 프랑스의 젊은 수학자들은 '니콜라 부르바키'라는 가상의 인물을 만들어 현대 수학의 기초를 집단적으로 다시 세우려 했다.
여성과 비서구권 수학자들의 역할도 중요하게 다룬다. 추상대수학의 발전에 결정적인 영향을 끼친 에미 뇌터, 여성 최초로 필즈상을 받은 마리암 미르자하니, 고차원 구 채우기 문제를 해결한 마리나 비아조브스카의 이야기는 수학적 재능이 성별이나 배경에 의해 결정되지 않으며, 수학의 역사가 오랫동안 가려졌던 목소리를 다시 발견하는 과정이기도 함을 일깨운다.
0은 오늘날 너무 익숙하지만, 하나의 수이자 자릿값을 표시하는 기호로 받아들여지기까지 오랜 시간이 걸렸다. 인도의 브라마굽타는 0과 음수의 계산 규칙을 체계화했고, 알콰리즈미를 비롯한 이슬람 세계의 학자들은 힌두-아라비아 숫자와 대수학을 발전시켜 유럽에 전했다. 이 변화는 복잡한 계산을 단순화하고 상업, 천문학, 과학의 발전을 촉진했다.
이처럼 이 책은 하나의 개념이 문명을 바꾸는 과정을 구체적인 사례로 보여준다. 확률론은 끝나지 않은 도박 게임의 판돈을 어떻게 나눌 것인가라는 질문에서 성장했고, 미적분학은 운동과 변화, 곡선의 넓이를 설명하려는 시도에서 탄생했다. 칸토어는 무한에도 서로 다른 크기가 있음을 밝혔고, 리만과 비유클리드 기하학자들은 공간에 관한 기존의 상식을 뒤집었다.

아직까지 풀리지 않은 문제, 그리고 수학의 미래
세계를 이해하고 새로운 이론을 만들어가다

20세기 들어 수학은 더욱 추상화되면서도 현실 세계와 긴밀하게 연결되었다. 게임 이론은 인간의 선택과 경쟁을 수학적으로 분석하는 틀이 되었고, 튜링과 섀넌의 연구는 컴퓨터와 정보화 시대를 열었다. 프랙털은 자연의 거친 형태를 설명하는 새로운 언어가 되었으며, 고차원 기하학과 알고리즘은 현대 과학과 인공지능의 핵심 토대가 되었다.
컴퓨터는 방대한 데이터를 처리하고 계산을 가속하며 복잡한 증명을 검증하는 도구가 되었지만, 컴퓨터 자체가 수학적 논리와 알고리즘에서 탄생했다. 오늘날 인공지능이 수행하는 패턴 인식, 의사 결정, 데이터 추상화, 신경망 구성의 밑바탕에도 수학이 있다. 이 책은 수학이 과거의 완성된 지식이 아니라 새로운 기술과 함께 끊임없이 변화하는 살아 있는 학문임을 보여준다.
동시에 인공지능이 정리를 제안하고 증명하는 시대에 인간 수학자의 역할은 무엇인지 질문한다. 수학적 이해는 단순한 계산 능력과 같은 것인지, 창의성과 직관을 기계가 대신할 수 있는지, 인공지능이 새로운 수학을 만들어낼 수 있는지에 대한 논쟁은 이제 막 시작되었다. 저자는 수학의 진보가 언제나 규칙 밖의 연결을 상상하고 새로운 질문을 던지는 인간의 창의성에서 비롯되었다고 강조한다.
힐베르트의 문제와 클레이 수학연구소의 밀레니엄 문제를 비롯해 아직 풀리지 않은 난제는 무수히 많다. 고차원 공간, 모듈러 형식, 게임 이론, 인공지능과 자동 증명 등 앞으로 탐구해야 할 영역도 계속 넓어지고 있다. 선사시대의 표식에서 시작된 수학의 여정은 끝난 것이 아니라 지금 이 순간에도 새로운 장을 써 내려가고 있다.

ㆍ한국어판 서문

1 수학의 흔적
2 지혜의 발견
3 필경사가 남긴 이야기
4 피타고라스학파의 비밀
5 역사상 가장 인기 있는 수학책
6 증명은 어디에 있을까?
7 정수론의 탄생
8 0의 기원
9 바그다드에서 울려 퍼진 메아리
10 수학으로 엮은 정교한 세계
11 그 사이의 수학
12 수학자의 눈에 비친 아름다움
13 삼차방정식 전쟁
14 대수학의 비밀을 풀다
15 세계의 조화
16 계산 도구
17 인터넷이 없던 시절에는 메르센이 있었다
18 절대 끝나지 않는 게임
19 닫힌 문과 열린 사고
20 사자와 마녀
21 여행하는 수학자
22 현대 기하학과 그 자취
23 무에서 유를 창조한 신세계
24 낭만주의 수학자들
25 논리적인 이상한 나라
26 혼돈의 조용한 탄생
27 무한의 크기
28 차원이 펼쳐지는 세계
29 전 세계의 수학자여, 단결하라
30 완벽을 추구하다
31 램지와 친구들
32 추상대수학의 어머니
33 부르바키로 불리는 비밀결사
34 심리 게임
35 콜리플라워와 해안선의 비밀
36 미해결 과제
37 미르자하니의 마법 지팡이
38 수학적 성공의 패턴
39 낯선 차원으로의 여행
40 새로운 수학의 꿈

ㆍ옮긴이의 말
ㆍ찾아보기

스네자나 로렌스 Snezana Lawrence

영국의 수학사학자이자 수학교육학자. 영국 오픈 대학교에서 수학사 박사학위를 받았으며 수학사와 기하학의 역사, 수학과 건축의 관계, 수학 교육을 주요 연구 분야로 삼아 활발한 연구를 이어오고 있다. 미들섹스 대학교를 비롯한 여러 대학에서 학생들을 가르쳤으며, 2020년부터 2024년까지 국제적 학술 단체인 국제수학사ㆍ수학교육연구회 HPM 회장을 지냈다. 현재는 〈영국 수학사 저널〉의 부편집자로 활동하면서 수학사 연구와 학술 교류에 힘쓰고 있다. 학문적 연구뿐 아니라 일반 독자들에게 수학의 역사와 문화적 의미를 쉽고 흥미롭게 전달하는 데에도 꾸준히 힘쓰고 있다. 특히 수학을 단순한 공식과 계산의 학문이 아니라 인류 문명의 발전과 함께해온 지적 유산으로 소개하는 저술과 강연으로 널리 알려져 있다. 지은 책으로 「수학자가 보내는 새해 선물(A New Year's Present from a Mathematician)」, 「수학적 명상(Mathematical Meditations)」 등이 있다.