컴퓨터과학이 여는 세계

코딩 문법이 아닌
'마음의 도구'를 다루는 생각의 틀을 배우다

현대인의 생활은 컴퓨터 기술과 떼려야 뗄 수 없다. 인류는 도구를 통해 능력의 한계를 늘 확장해왔지만, 그중에서도 컴퓨터라는 도구는 좀 독특하다. 물리적인 근육을 쓰는 여타 도구와 달리, 컴퓨터는 언어로 다루는 '마음의 도구'이기 때문이다. 언어로 작성된 텍스트(소프트웨어)를 컴퓨터 메모리에 실으면 컴퓨터는 그 텍스트가 표현한 무궁무진한 일을 하나씩 수행해간다. 인간의 현실을 획기적으로 확장하고 경계를 뛰어넘게 하는 컴퓨터. 어떻게 이런 일이 가능해진 걸까? 컴퓨터과학은 어떻게 탄생했고 지금까지 무엇을 밝혀냈을까? 『컴퓨터과학이 여는 세계』는 바로 그 질문에서 출발한다.
컴퓨터는 20세기 수학자들의 큰 꿈이 철저히 좌절되는 과정에서 나온 부산물이었다. 앨런 튜링은 괴델의 '불완전성 정리'에서 영감을 받아, 수학의 모든 문제를 기계적으로 해결할 수 있는 방법은 없다는 사실을 증명하고자 특별한 가상 기계를 상상했다. 그렇게 탄생한 기계가 바로 보편만능의 기계, 즉 컴퓨터다. 모든 문제를 완벽하게 풀 수 있을 것이라 믿었던 수학자들의 환상을 깨기 위해 고안한 '튜링 머신'이 아이러니하게도 21세기 정보혁명의 주인공이 된 셈이다. 튜링이 컴퓨터의 청사진을 제시한 뒤, 스위치 회로가 부울 논리(boolean logic)라는 날개를 달아 '디지털 논리회로'로 만들어졌고 인류는 컴퓨터 구현에 차근차근 가까워져갔다.
컴퓨터는 특별하다. 인류 역사에 유례가 없던 도구다. 다른 도구와는 근본적으로 다르다. 칼, 바퀴, 냉장고, 자동차 등을 보자. 칼은 자르고 찌르는 데만 쓰고, 바퀴는 구르는 데만 쓴다. 냉장고는 얼리고 식히는 데만 쓰고, 자동차는 이동하는 데만 쓴다. 반면 컴퓨터는 쓸모가 많다. 한계가 없다. 컴퓨터 하나로 할 수 있는 일을 보자. 인공지능도 돌리고, 문서도 편집하고, 인터넷도 하고, 동영상도 본다. 게임도 하고, 쇼핑도 한다. 소문도 퍼뜨리고, 전화도 건다. 로켓도 날리고, 핵발전소도 돌린다. 컴퓨터가 인공지능을 돌리면서 온갖 문답도 이뤄지고, 자동차 운전도, 로봇 운전도, 미지의 과학 실험도, 받아쓰기와 정리도, 번역도, 문서 요약도, 비평도, 그림이나 동영상 제작도, 모든 시험문제 풀이도, 그리고 소프트웨어 제작까지도 한다. 모두 컴퓨터 하나로 할 수 있는 일들이다. 그래서 컴퓨터를 보편만능의 기계(universal machine)라고 부른다. 좀더 정확하게 표현하자면 컴퓨터는 '기계적인 일은 뭐든 돌릴 수 있는 기계'다. _27쪽

알고리즘과 언어로 세운
소프트웨어의 단단한 토대를 살피다

컴퓨터를 만능으로 만드는 것은 소프트웨어다. 사람은 소프트웨어를 만들고, 컴퓨터는 이를 실행한다. 그렇다면 소프트웨어를 잘 만들 방법은 무엇일까? 이에 대해 컴퓨터과학은 두 갈래의 원천 아이디어를 제시한다. 소프트웨어가 일하는 방도인 '알고리즘'과 이를 표현하는 방식인 '언어'에 대한 탐구다. 어떤 알고리즘으로 소프트웨어가 일하도록 해야 좋은지, 어떤 언어로 소프트웨어를 표현하는 게 좋은지, 이 두 줄기의 기둥이 소프트웨어 세계의 기초를 이룬다.
이광근 교수는 이 책에서 알고리즘과 언어라는 두 축을 중심에 두고 핵심 아이디어를 전개한다. 컴퓨터가 따라 할 문제풀이법인 알고리즘에 관해서는 책 읽기, 패스워드 해킹, P클래스 및 NP클래스 문제 등 다양한 난이도의 예를 들어 친절하게 설명한다. 이를 통해 불가능한 계산 문제의 존재, 가능하지만 계산 비용이 너무 큰 문제, 어렵고 쉬운 문제의 경계 및 판별 등 알고리즘의 실전 기본기를 누구나 쌓게끔 이끈다. 프로그래밍 언어에 관해서는 Coq, Python, Java 등 상위·하위 언어의 생김새부터 각 언어의 표현력, 언어 간 자동 번역, 람다계산법, 논리 거울과 프로그램 검진까지 기본 개념을 차근차근 짚는다. 나아가 컴퓨터가 어떻게 인간 지능, 인간 본능, 인간 현실을 확장하는지 그 응용까지 발을 넓힌다. 기계학습, 깊은 신경망 인공지능(deep neural net), 인간 유전자 염기서열, 커넥톰 프로젝트, 지식 검색, 암호기술 등 실생활과 밀접한 연결고리를 통해 컴퓨터 기술의 과거, 현재, 미래를 잇는다. 컴퓨터과학을 구성하는 아이디어가 결국은 '논리'이며, 컴퓨터는 그 논리를 레고 블록처럼 조립하는 과정임을 깨닫게 하는 이 책은, 독자들에게 과거의 유산을 바탕으로 새로운 문제를 해결할 탄탄한 실마리를 제공해준다. 단순한 공학 기술서가 아니라 디지털 시대를 살아가는 현대인의 필수 소양을 다룬 교양서로서, 기술 격변의 소용돌이 속에서 컴퓨터과학이 인간의 지능과 현실을 어떻게 확장하는지 거시적인 안목뿐 아니라 미래를 예측할 생각의 틀까지 제시한다.

컴퓨터 분야는 이미 모든 게 이루어진 성숙한 분야가 아니다. 겨우 먼동이 튼 옥색의 새벽, 첫 웃음을 막 터뜨린 아기. 이 정도가 아닐까. 탄생하고 이제 겨우 70여 년이 흘렀기 때문이다. 미래에 이루어질 거대한 변화에 비하면 지금까지의 컴퓨터 분야의 성과는 시작일 뿐이다. 비유하자면 지금은 '뉴턴'과 '갈릴레오'와 같이 살아가는 초창기일 뿐이다. 그러므로 선무당일 수 있다. 정보 과학 기술이 어떻게 펼쳐질지를 예측하거나 특정 분야의 선택과 집중에 대한 논의는 섣부를 수 있다. 확실한 것은 컴퓨터 분야의 성과를 통해서 인간의 지능/본능/현실은 나날이 확장될 것이라는 점이다. 마치 생명과학의 성과를 통해서 인간 수명이 연장되고, 물리학의 성과를 통해서 에너지원이 확장되듯이. 이럴 때 근본을-혹은 문제의 전말과 선택의 경위를-잘 이해하는 게 긴요할 수 있다. 미래에 나타날 많은 것을 손쉽게 커버하는 방법은 원리에 집중하는 것이다. 근본을 꿰뚫는 시각을 튼튼히 할수록 다양한 응용의 한계와 가능성을 쉽게 파악할 수 있고, 남들이 미처 보지 못하는 곳을 볼 수 있기 때문이다. 지금까지의 응용은 어쩌면 아기의 설익은 춤, 앞으로 펼쳐질 영토는 지나온 지형보다 넓고 비옥할 것이다. 근본적인 기초를 튼튼히 갖추지 못하면 예측불허의 기회를 앞장서 감지하고 개척하는 인재는 나올 수 없거나 나온다 해도 수명이 짧을 수 있다. _289~290쪽

[추천사 이어서]
20년 넘게 공부한 컴퓨터과학이지만 기원과 본질, 미래가 무엇인지 막연하기만 했다. 오랫동안 품어온 컴퓨터과학 근본에 대한 질문에 이 책은 명쾌하게 답해준다. 컴퓨터과학에 대한 교양서로서도 훌륭하지만 전공자도 새롭게 눈뜨게 해줄 깊은 이야기가 이해하기 쉽게 담겨 있다. _박성우(POSTECH 컴퓨터공학과 교수)

컴퓨터과학을 제대로 이해하고 싶은 독자에게 강력 추천하는 책. 컴퓨터과학의 시초부터 최신 연구 분야까지 왜 이렇게 발전해왔는지 그리고 앞으로 어떻게 발전해나갈지 깊은 통찰력이 담겨 있을 뿐만 아니라, 이에 대한 기술적인 설명도 뒤따른다. 전 세계 어디에서도 본 적이 없는, 컴퓨터과학을 정말 제대로 정리해놓은 책이다. _허충길(서울대학교 컴퓨터공학부 교수)

컴퓨터과학의 근본 아이디어들과 앞으로의 가능성에 대해서 놀랄 만큼 흥미롭고 알기 쉽게 설명한다. 무엇보다도 근본적인 내용에 집중하여 컴퓨터과학의 전경을 꿰뚫어보는 통찰력을 마련해주며, 그에 더해 유기적으로 폭넓은 가능성까지 제시해주어 독자의 열정과 탐구심마저 고취시킨다. 컴퓨터과학에 대한 깊이 있는 이해를 원하는 입문자와 전공자 모두에게 강력히 추천하고 싶은 책이다. _오학주(고려대학교 컴퓨터학과 교수)

컴퓨터는 현대인의 삶에 혁명적 변화를 가져다준 가장 중요한 발명품 중 하나이다. 이 책은 컴퓨터의 탄생 이야기, 소프트웨어의 원리 등 그 구현을 위한 핵심 아이디어와 다양한 응용 분야를 맛깔스럽게 풀어서 설명한다. 한 줄 한 줄 읽는 독자를 컴퓨터가 만들어낸 지적 세계로 안내하는 신명나는 여행 안내서가 될 것이다. _정교민(서울대학교 전기정보공학부 교수)

개정판을 펴내면서
펴내면서
감사

1부. 마음의 도구

2부. 400년의 축적
2.1. 보편만능 도구의 탄생
청년 앨런 튜링｜컴퓨터 원천 설계도의 등장｜수학계의 꿈｜괴델이 깨부순 꿈｜케임브리지의 청년｜단도직입적 증명｜기계 부품｜궁극의 기계｜튜링기계를 테이프에 표현하기｜테이프에 표현한 튜링기계를 돌리는 규칙표｜급소｜튜링의 불완전성 증명｜멈춤 문제의 증명｜컴퓨터

2.2. 400년
의문｜다른 트랙

3부. 그 도구의 실현
3.1. 다른 100년

3.2. 생각: 부울의 연구
1854년｜그리고, 또는, 아닌｜같음｜조립

3.3. 스위치
직렬, 병렬, 뒤집기｜1937년｜스위치 회로를 위한 날개｜디지털 논리회로｜디지털 논리회로의 표현 방식｜판정, 선택, 응답, 기억

3.4. 컴퓨터의 실현
차곡차곡 쌓기｜규칙표 장치｜메모리 장치｜폰 노이만｜튜링｜재료

4부. 소프트웨어, 지혜로 짓는 세계
4.1. 그 도구를 다루는 방법
알고리즘｜언어

4.2. 푸는 솜씨, 알고리즘과 복잡도
풍경｜알고리즘 예｜비용｜현실적｜비현실적｜P의 경계｜NP클래스｜오리무중｜P의 바깥｜통밥｜무작위｜불가능｜기본기｜양자 알고리즘

4.3. 담는 그릇, 언어와 논리
간격｜번역사슬｜생김새｜표현력｜자동 번역｜실행｜언어 정글｜언어 중력｜두 중력권｜기계의 중력｜람다의 중력｜람다계산법｜논리는 언어의 거울｜거울의 효능｜논리 거울, 짤 프로그램의 구도 잡기｜논리 거울, 짠 프로그램은 무난한가｜요약의 그물｜데이터의 중력

4.4. 소프트웨어 만드는 방법 두 가지
첫번째 방법: 언어와 논리로 표현할 수 있다면｜두번째 방법: 언어와 논리로 표현하지 못할 경우

5부. 그 도구의 활용
5.1. 인간 지능의 확장
고유 지능｜기계학습과 인공지능｜지식 표현｜지식 검색｜팀워크 지능｜군중 지능

5.2. 인간 본능의 확장
놀이 본능｜소통 본능｜정보이론｜섀넌과 튜링｜정보량｜복음｜인코딩｜오류 수정 코드

5.3. 인간 현실의 확장
시공간 공유｜역발상｜암호｜열쇠｜완벽한 하인｜진품 감정｜벼랑

6부. 마치면서
아기의 첫 웃음

참고자료
인용된 시 목록
찾아보기

이광근 서울대학교 컴퓨터공학부 교수.
KAIST 전산학과 교수, 교육과학기술부 지정 선도연구센터 센터장, 과학기술부 지정 창의연구단 단장, Bell Labs-Software Principles Research Department 정규 연구원, MIT, Stanford, CMU, 파리고등사범대학교(ENS Paris) 방문교수, Facebook Research Scientist를 역임했다.
지은 책으로 『Introduction to Static Analysis』(MIT Press, 2020) 등이 있다