수학이 불완전한 세상에 대처하는 방법(상상초월 석학강연 1)

불완전하고 무작위하고 무질서한 세상,
수학은 이 세상을 어떻게 다루었는가?

"완전한 것을 다루는 깔끔한 수학이 아니라, 불완전한 세상을 다루어야 하는 수학을 말해주기로 했다. 그래서 소통과 통신의 과정에서도 오류가 생기는 불완전한 세상이지만 이것을 해결해주는 수학 이론인 코딩 이론이 있다는 얘기로 시작했다. 이어서 무작위성과 확률의 세계로 옮아갔으며, 매끄럽지 않은 세상을 다루는 프랙탈 기하를 소개하며 끝냈다. 이 책의 여러 곳에서 조금 까다로워 보이는 수식이 나오곤 하지만, 독자의 경험에 따라 행간을 읽어 나가면 맥락의 이해에는 큰 문제가 없을 것이다. 불완전하고 무작위하고 무질서한 것조차 오히려 흥미롭게 바꾸는 수학의 마력을 느끼는 계기가 된다면 족할 것이고, 더 깊은 수학의 세계로 들어가는 동기가 된다면 더할 나위 없이 좋을 것이다."
_ 머리말 중에서

세계수학자대회(ICM) 조직위원장으로 '2014 ICM'을 성공적으로 이끈 수학자 박형주 포스텍 교수의 대중 수학도서 『수학이 불완전한 세상에 대처하는 방법』(상상초월 석학강연 시리즈 01)이 출간되었다. 이 책은 박형주 교수가 청소년을 대상으로 진행한 세 번의 수학 강연을 다시 글로 풀어쓴 책이다. 코딩 이론, 확률, 프랙탈 등과 같이 불완전하고 무작위하고 무질서한 세상을 다룬 수학에 초점을 맞춰, 세상과 동떨어진 수학이 아니라 세상 한복판으로 걸어나온 수학을 다루고 있는 것이 특징이다. 책의 뒷부분에는 정재승 카이스트 교수(바이오및뇌공학과)와의 대담 '수학자와 함께하는 상상초월 토크 콘서트'이 실렸는데, 수학자로서의 삶과 수학 교육에 대한 박형주 교수의 진솔하고 유쾌한 이야기를 접할 수 있을 것이다. 상상초월 석학강연 시리즈는 12명의 국내 최고의 석학들이 각각 핵심적인 개념 3가지를 선택해 쉬우면서도 깊이 있게 다루는 과학 명강 시리즈로, 정재승 카이스트 교수(바이오및뇌공학과)가 기획자로 참여했으며, 이 책 『수학이 불완전한 세상에 대처하는 방법』은 상상초월 석학강연 시리즈의 첫 번째 책이다.
세상은 완벽하지도, 조화롭지도 않다. 오히려 세상은 불완전하고, 거칠거칠하고, 무작위하다. 저자는 이 책에서 형식적인 아름다움을 추구하는 지적 유희로서의 수학이 아니라, 불완전한 세상에 대해 수학이 어떻게 대응하고 발전해왔는가를 상세하게 소개한다.
코딩 이론은 불완전한 소통을, 확률은 무작위한 세상을, 프랙탈은 무질서한 세상을 수학적으로 다룸으로써, 그곳에서 세상에 관한 수학적 통찰을 건져낸 수학 이론들이다.
코딩 이론은 통신 과정에서 생기는 오류를 탐지하고 교정하는 이론으로, 우주탐사 과정에서 일어나는 무수한 통신 문제를 해결함으로써 지대한 관심을 불러일으켰다. 1960년을 전후로 우주과학자들은 '우주에서 찍은 사진을 지구로 어떻게 보내야 하는가'로 골머리를 앓았는데, 왜냐하면 우주에서 정보를 제대로 보내도 태양의 자기장이나 지구의 오존층 등 여러 가지 요인들이 신호를 방해하기 때문이었다. 이 무렵 코딩 이론은 신호의 오류를 알아차릴 뿐 아니라 1을 0으로, 0을 1로 교정해주는 등 우주에서 지구로 전송되는 화상신호들의 에러들을 바로잡고 사진들을 훌륭하게 재생해낼 수 있게 했다. 코딩 이론을 활용하면, 코드화를 통해 비트 단위로 전송하는 데이터(예를 들면, 0과 1로 된 수열)들을 최대한 빠르고 오류 없이 보낼 수 있기 때문이다. 즉 코딩 이론을 활용하면 복잡하더라도 최대한 적게 비트를 보내면서도 에러를 자동으로 교정할 수 있다. 이런 코딩 이론을 통해 수학자들은 20세기에 대량의 정보를 처리해야만 하는 정보 통신에 본격적으로 기여하기 시작했다.
확률은 무작위성(randomness)이 지배하는 세상을 적나라하게 보여주는 수학 이론이다. 예를 들어, '비둘기집 원리'는 비둘기가 15마리이고 비둘기집이 10개일 경우, 어느 비둘기집엔가는 반드시 2마리 이상의 비둘기가 들어간다는 것을 수학적으로 증명한 원리다. 이 비둘기집 원리를 확장시켜서, 10마리의 비둘기를 20개의 비둘기집에 균일한 확률로 배분할 때 두 마리 이상의 비둘기가 같은 비둘기집에 들어갈 확률을 따져보면, 그 확률은 93.45%나 된다는 것을 계산해낼 수 있다. 그러면 만약 비둘기 수가 100~200마리가 넘고 비둘기집도 배로 늘어나면 어떻게 될까? 이때 한 비둘기집에 비둘기가 두 마리 이상 들어갈 확률은 99%를 넘어선다. 거의 필연이다. 자연현상은 우연을 필연으로 만든다. 문제는 우연을 필연으로 만드는 자연의 무작위성이 늘 반갑기만 한 것은 아니라는 점이다. 그래서 확률은 무작정 자연의 무작위성에 맡겨놓을 때 나타날 수 있는 문제를 보완할 때 필요한 이론이 되었고, 무작위성은 복잡계라는 완전히 새로운 학문을 열었다. 이렇게 보면 현대 수학의 별의별 것과 다 연결된다.
프랙탈은 겨울날의 눈송이 모양이나 금융시장의 불규칙한 가격 변동을 하나의 수학 이론으로 설명해준다. 프랙탈이라는 개념은 아무리 반복해서 확대해도 여전히 같은 모양이 반복되는 것에서 등장했는데, 불규칙적이고 혼란스러운 현상의 배후에 있는 규칙을 다루는 이론이라고 할 수 있다. 불규칙의 규칙성을 갖는 프랙탈의 대표적인 예로는 해안선을 들 수 있다. 해안선을 계속 확대해보면 불규칙이 규칙적으로 반복되는 순환성을 보여준다. 프랙탈의 다른 예로, 코흐 곡선도 있다. 정삼각형의 각 선분을 이 선분의 1/3 길이로 된 네 개의 선분(_∧_)으로 바꾸는 과정을 무한히 반복하면, 눈송이 모양의 '코흐 곡선'이 만들어진다. 이 코흐 곡선은 모든 점에서 부드럽지만(연속이지만) 어떤 점에서도 미분 가능하지 않은 곡선이며, 이 곡선의 둘레는 무한대이지만 유한한 공간 속에 있다. 즉 유한한 공간에 길이가 무한대인 곡선을 넣을 수 있는 것이 바로 코흐 곡선이다. 이 코흐 곡선의 차원은 계산해보면 약 1.2618차원이다. 혹자는 프랙탈과 같은 이상한 구조를 과연 연구할 필요가 있을까 하고 의구심을 가질 수도 있다. 그러나 불규칙과 무질서가 자연의 본질에 더 가깝다는 것을 상기한다면 이런 의구심은 적절치 않은 반응이다. 더욱이 유한한 공간에 아주 많은 것을 집어넣을 수 있는 방법은 프랙탈 구조뿐이다. 전통적인 수학이 질서정연할 뿐 혼돈을 효과적으로 기술하지 못했다면, 프랙탈 이론은 혼돈을 다루는 새로운 수학적 프레임을 보여주었다.
이처럼 박형주 교수의 『수학이 불완전한 세상에 대처하는 방법』은 어떻게 하면 수학 문제를 잘 푸는지를 알려주는 책이라기보다는, 수학이 왜 쓸모가 있는지, 수학이 세상을 어떻게 다루어왔는지, 수학이 어떠한 방식으로 세상과 연결되는지를 알려주는 책이다. 수학을 문제를 푸는 과목으로만 생각하는 이들에게, 이 책은 세상에 대한 통찰을 제공해왔던 수학의 흥미로운 면면을 실감나게 보여줄 것이다.

상상초월 석학강연 시리즈란?

우주의 경이로움과 자연에 대한 통찰력!
사고력과 인식의 지평을 넓히는 과학 명강

"이 시리즈의 취지는 학문의 최전선에 선 최고의 석학들을 모시고,
학생들이 알아야 할 과학의 정수를 맛보게 하는 것입니다."
_ 기획의 말(정재승 KAIST 바이오및뇌공학과 교수)

'상상초월 석학강연 시리즈'는 12명의 국내 최고의 석학들이 각각 핵심적인 개념 3가지를 선택해, 쉬우면서도 깊이 있게 다루는 과학 명강 시리즈다. 과학의 진면목을 들여다보자는 의도에서 이뤄진 기획으로, 수학에서 출발해 우주와 물질을 거쳐 생명에 이르기까지 가장 핵심적인 과학 주제를 파헤친다. 코딩 이론, 확률, 프랙탈, 행렬, 게임 이론, 암호, 미분, 허수, 빅뱅, 초신성, 전자기, 상대론, 양자역학, 힉스 입자, 최종 이론, 상호작용, 고분자, 유기합성, 결합, 에너지, 반응, DNA, RNA, 생물의 에너지, 공생, 단백질, 당생물학 등 36가지 주제를 다룬다.
박형주 포스텍 교수(수학), 한상근 KAIST 교수(수학), 권오남 서울대학교 교수(수학), 이명균 서울대학교 교수(천문학), 이순칠 KAIST 교수(물리학), 이종필 고려대학교 연구교수(물리학), 김희준 광주과학기술원 석좌교수(화학), 전철호 연세대학교 교수(화학), 김성근 서울대학교 교수(화학), 강창원 KAIST 교수(생물학), 노정혜 서울대학교 교수(생물학), 조진원 연세대학교 교수(생물학)가 이 기획에 참여했다. 강연은 KT&G 상상마당에서 진행됐다.

머리말 004
기획의 말 008

1부 코딩 이론 : 소통의 수학 이론 014

불완전한 세상과 코딩 이론 / 코딩 이론의 역사 / 사진과 음성을 전송하는 방법 / 코딩 이론의 필요성 / 코딩 이론은 무엇인가 / 코딩 이론을 위한 기초지식 / 코딩 이론의 이해를 돕는 순열과 조합 / 정수와 잉여류 연산 / 간단한 인코딩 방식 / 크라프트 - 맥밀런 정리

2부 확률의 세계와 비둘기집 원리 : 경우의 수를 찾아라 078
귀류법으로 증명하는 비둘기집 원리 / 비둘기집 원리 응용 / 같은 횟수로 악수하는 사람 / 확률과 비둘기집 원리 / 무작위성randomness과 복잡계 / 확률과 정보량 / 정보량 I의 성질 / 엔트로피와 코딩 / 엔트로피 코딩의 예

3부 프랙탈 : 무질서의 세상에서 건져낸 질서 132
프랙탈의 개념과 역사 / 프랙탈과 차원 / 칸토어와 무한 / 칸토어 더스트 / 기하학적인 접근 / 미분과 프랙탈 / 코흐 곡선의 연속성와 미분 불가능성 / 코흐 눈송이의 유한성과 무한성 /코흐 눈송이의 프랙탈 차원 / C곡선 / 드래곤 프랙탈 / 줄리아 집합 / 망델브로와 프랙탈

4부 수학자와 함께하는 상상초월 토크 콘서트 190
대담자 : 박형주 포스텍 수학과 교수, 정재승 카이스트 바이오및뇌공학과 교수

박형주 저자 박형주는 포스텍(포항공과대학교) 수학과 주임교수. 서울대학교 물리학과를 졸업하고, 미국 U.C. 버클리에서 박사학위를 받았다. 미국 오클랜드대학교 수학과 교수, 고등과학원 계산과학부 교수를 거쳐, 현재 포스텍에서 학생들을 가르치면서 계산대수 및 대수기하를 연구하고 있다. 대한수학회 국제교류위원장으로 활동하면서 2014 ICM(세계수학자대회)을 유치했으며, 2014 ICM 조직위원장을 맡아 한국에서 열린 첫 번째 ICM을 성공적으로 이끌었다. 2014 ICM은 122개국에서 온 5200여 명의 세계 수학자를 포함해 역사상 최다 인원(약 2만 6000명)이 참여하는 등 성황리에 치러졌다는 평가를 받았다. 한국인으로서는 처음으로 국제수학연맹(IMU) 집행위원(~2018년)으로 선출되었으며, 국제수학연맹을 대표해 다양한 수학적 활동을 펼쳐나가고 있다. EBS 수학 다큐멘터리 《생명의 디자인》(2009)의 진행을 맡았으며, EBS 수학 다큐멘터리 《문명과 수학》(2012)의 자문 및 감수자로 참여했다. 동아일보 '10년 뒤 한국을 빛낼 100인'(2010)에 선정되었고, 한국과학기자협회 '올해의 과학자상'(2014)을 수상했다. 일간지와 주간지에 다양한 칼럼을 연재하고, YTN 라디오와 KBS 라디오에서 수학 관련 코너를 진행하면서, 지식콘서트 K.A.O.S.(Knowledge Awakening On Stage)의 공동기획과 진행을 맡는 등 수학이 대중에게 더 친근하게 다가갈 수 있도록 애쓰고 있다.