2029 기계가 멈추는 날

"AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다!" _에릭 슈미트
"AI 연구는 악마를 소환하는 일이다!" _일론 머스크
유토피아와 디스토피아의 갈림길에 선 AI의 현실을 날카롭게 파헤친다!
〈2001: 스페이스 오디세이〉, 〈블레이드 러너〉, 〈HER〉… 수많은 영화가 인간과 인공지능의 공존하는 세계를 그려냈다. 그리고 다양한 이야기와 결말을 통해 유토피아와 디스토피아의 모습을 보여줬다. 영화 속 현실이 실현될 가능성은 점점 더 커지고 있다. 적어도 뉴스와 광고에서 나오는 AI를 봤을 땐 말이다. 2018년 1월 15일, 미국 《뉴스위크》는 커다란 헤드라인을 걸고 이렇게 말했다. '인간을 능가하는 로봇의 읽기 능력! 수백만 개의 일자리가 위험에 처했다!' 실제로는 무슨 일이 일어났을까? 마이크로소프트와 알리바바에서 만든 인공지능 프로그램 스쿼드(SQuAD)가 독해 테스트에서 극히 제한적이고 특정한 영역의 문제를 해결하는 데 인간 수준의 성과를 달성했다. 이전에는 인간의 능력에 한참 못 미치는 수준에 머물렀던 과제에서 수치로 보면 82.136%에서 82.65%라는 아주 미비한 진보를 이룬 것이었다. 하지만 그들은 보도자료를 통해 "사람처럼 서류를 읽고 문제에 답할 수 있는 AI를 만들었다."고 발표했다.
AI가 인류세에 이정표를 그을 것이라는 데 이견은 없다. 다만 어떤 영향을 미칠 것이냐에 대한 논쟁적 이슈가 끊이지 않고 있다. 구글의 전 CEO 에릭 슈미트는 "AI가 기후 변화, 빈곤, 전쟁, 암과 같은 문제들을 해결할 것"이라고 선언했다. 엑스프라이즈(XPRIZE)의 설립자 피터 디아만디스도 강인공지능(Strong AI)이 "우리를 풍요의 피라미드 꼭대기로 쏘아 올려줄 것이 분명하다."고 말했다. 반면 스티븐 호킹은 AI가 "우리 문명 최악의 사건"이 될 수 있다고 경고했고 일론 머스크는 AI 연구가 "악마를 소환하는 일이며 핵무기보다 해로운" 위험이 된다고 주장했다. 중요한 것은 이들이 말하는 AI가 정확히 어떤 AI인가라는 점이다. 또 그들이 말하는 일들이 벌어질 정도로 AI가 무언가를 실제 할 수 있는가를 물어야 한다.
MIT 출신의 저명한 인지과학자 게리 마커스와 뉴욕대학교 쿠란트 수학연구소의 컴퓨터공학자 어니스트 데이비스는 지금의 AI 현실에 대해 "AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않았다."고 지적한다. 그리고 인간이 원하는 미래를 설계하는 데 필요한 AI를 가까운 미래에 실현하기 위해서는 지금 당장 접근법을 바꿔야 한다고 주장한다.


1억 대 판매된 아마존의 알렉사, 구글의 자율주행차, IBM의 왓슨…
인간이 예측한 AI의 성장 속도는 왜 빗나갔는가?
알고리즘으로 움직이는 기계는 여기서 멈춰 설 것인가, 진화할 것인가?
최근 AI 분야의 눈에 띄는 진보는 하드웨어의 비약적인 발전과 함께 기가바이트나 테라바이트 단위의 대규모 데이터 세트를 기반으로 이뤄졌다. 특히 빅데이터의 등장으로 데이터를 분석하는 알고리즘, 즉 '딥러닝'이라는 강력한 통계 엔진이 그 중심에 있다. 거대한 데이터베이스에 의존해 머신러닝 방식으로 초인간적 수준으로 문제를 해결해내는 기계들이 우후죽순 등장하기 시작했다. 전 세계 1억 대 이상 판매된 아마존의 알렉사와 구글의 자회사 웨이모(Waymo)의 자율주행차, IBM의 왓슨이 대표적인 예다. 하루아침에 대변혁을 이룰 것만 같았던 화려한 등장이 무색하게도 모두 1년도 채 지나지 않아 실망스러운 성적표를 받았다. 예기치 않은 방식으로 너무 손쉽게 개인정보를 유출하는 사건을 일으킨다거나 흐린 날씨나 표지판 혼동 등 변수에 대응하지 못해 교통사고가 벌어지기 일쑤고 가슴 통증이라는 증상에 평범한 의과대 1학년생도 내놓을 수 있는 진단(심근경색, 협심증, 대동맥박리)을 내놓지 못하는 문제로 말이다.
《2029 기계가 멈추는 날》의 저자인 게리 마커스와 어니스트 데이비스는 데이터가 더 풍부해지고 컴퓨터 클러스터의 속도가 더 빨라지고 천문학적 규모의 투자가 더 많아진다고 해도 해결할 수 없는 근본적인 문제가 남아 있다고 말한다. 바로 딥러닝 기반의 기계가 지능 활용에 가장 기본이 되는 상식과 추론 영역의 한계를 갖고 있다는 사실이다.

"진정한 지능에는 추론, 언어, 유추가 필요하지만 현재의 기술로는 이들 중 어떤 것도 제대로 처리하지 못한다. 예를 들어 우리에게는 아직 법률 계약을 확실히 이해할 수 있는 AI 시스템이 없다. 단순 패턴 분류만으로는 충분하지 않은 문제이기 때문이다. 딥러닝에게는 넷플릭스에서 오래된 영화들의 줄거리를 적절히 요약해주기를 기대하는 것조차 지나친 요구다."
-본문 중에서

인공지능(Artificial Intelligence)이라는 말을 만든 존 매카시 교수는 1959년 처음으로 AI와 상식 문제에 대한 주의를 촉구했다. 추상적 지식을 통합시킬 직접적인 방법이 없는 딥러닝은 대개 이 문제를 외면해왔다. 단기적인 성과를 보여줄 수 있는 빅데이터에 대한 집착이 AI의 진보를 위해 해결해야 하는 훨씬 더 어렵고 장기적인 문제, 즉 기계에게 세상의 다양성과 복잡성을 가르치는 법에 대한 관심을 앗아갔다. 이것이 바로 AI가 인간이 예측한 성장 속도보다 뒤처져 아직 제 궤도에 오르지 못한 이유다.
두 저자는 지금보다 더 성장한 단계에 도달한 후 돌이켜 보면 AI의 전환점은 2012년에 일어난 딥러닝의 재탄생이 아니라 상식과 추론 영역에서의 '딥 언더스탠딩'(deep understanding), 즉 심층적 이해에 대한 문제의 해결점이 보이는 순간임을 깨닫게 될 거라고 주장한다. 기술의 변혁은 10년이 걸릴지, 100년이 걸릴지 아무도 모르지만 추론과 상식적 가치관, 건전한 엔지니어링 응용에 토대를 둔 '인간이 신뢰할 수 있는 AI'로 탈바꿈할 때에야 비로소 시작될 수 있다는 것이다.


스티븐 핑커, 에릭 브린욜프슨, 노엄 촘스키… 세계적 석학들의 강력 추천!
AI 분야 최전선에 선 두 전문가가 전하는 AI 현주소와 인간과의 공존을 위한 장밋빛 제언!
AI 분야 최전선에서 회의론적이지만 동시에 건설적인 담론과 과제를 제시해온 두 저자의 첫 기념비적인 책 《2029 기계가 멈추는 날》에 비즈니스와 학계, 저명 매체의 뜨거운 찬사가 쏟아졌다. 스티븐 핑커, 노엄 촘스키, 에릭 브린욜프슨 등 세계적인 석학들이 인공지능에 관한 최고의 지침서로 단연 이 책을 꼽았다. 지난 10여 년 동안 AI를 에워쌌던 과대 선전에 대한 반가운 해독제이자 앞으로 세상에 엄청난 영향력을 미치게 될 변혁을 이해하는 데 귀중한 가이드라고 강조했다. 세계적인 석학들의 찬사에서도 엿볼 수 있듯 이 책은 단순히 AI의 현 실태를 분석하고 평가하는 데 머물지 않고 인간과의 공존을 위한 건설적인 전략과 장밋빛 제언을 전한다.

"인간 전문가의 유연성과 강력한 직관에 비견되는 소프트웨어가 기계의 순수한 연산력과 결합된다면 과학적 발견의 속도 자체는 대단히 빨라질 것이다. 이 시점이 되면 단 한 대의 고급 컴퓨터가 고도의 훈련을 받은 인간 집단이 해내는 일을 복제하거나 우리 인간은 할 수 없는 일들을 할 수도 있다.
이처럼 발전된 형태의 AI라면 방대한 양의 신경 데이터와 복잡한 인과 추론을 이용해 '두뇌가 어떻게 작동하는지'(지금까지 알려진 것이 거의 없는 영역), '정신 질환 치료제를 어떻게 만들어야 하는지'(지난 30년간 거의 진전이 없는 분야) 등에 대해 알아낼 수 있을 것이다. 뛰어난 과학적 기량을 갖춘 AI가 농업과 청정에너지 분야에서 더 효율적인 기술을 고안하는 데 도움을 주는 일도 영 터무니없는 생각이 아니다.
물론 이런 일들을 할 수 있는 범용지능을 가진 AI를 만드는 일이 쉽지는 않다. 아니 정확히 말하면 대단히 어렵다. 그래서 이런 일들이 가까운 미래에 실현되기란 불가능하다. 하지만 시기의 문제일 뿐 결국은 실현될 것이다."
-본문 중에서

이 책을 통해 두 저자가 말하고자 하는 메시지는 분명하다. 지금 우리는 AI와 공존하는 세상으로 가는 길 위에 있으며, 다음에 올 순간이 무엇이든 우리는 그것을 안전하고, 믿을 수 있고, 가능한 한 인류에게 유용한 방향으로 나아가도록 최선을 다해야 한다는 것뿐이다. 비즈니스, 경제, 학계 등 폭넓고 다양한 영역에서 새로운 판을 창조하게 될 AI에 대한 관심은 더욱더 뜨거워지고 있다. 상상하지 못한 수준의 세상이 어떤 식으로 펼쳐질지, 또 그 미래가 유토피아일지, 디스토피아일지 궁금한 독자라면 이 책을 절대 놓쳐서는 안 될 것이다.


나는 이 책이 나오기를 아주 오랫동안 기다렸다. 게리 마커스는 항상 현대 AI 트렌드의 선정주의(sensationalism)를 견제하는 데 앞장서 왔다. 그 흐름은 1960년대와 1980년대에도 늘 있었다. AI에 대한 찬사는 과거에도 있었으며 늘 '인공지능의 겨울'(AI Winter)이 뒤따랐다. 두 저자는 독자들에게 현실적인 솔루션을 제시한다. 딥러닝과 실제 적용 사례를 통해 현재의 AI가 얼마나 제한적으로 작동하는지 비판적으로 평가하면서도 어떻게 해야 AI가 더 좋은 방향으로 충분히 실현될 수 있는지 그 방안을 제시한다.
_ 티 닐드(아마존 독자)

다단계 신경망을 활용한 딥러닝 방식의 AI에서 (상황이나 문제를) 정말 이해할 수 있는, 즉 딥 언더스탠딩이 가능한 AI로 미래 향방을 이끌어야 가야 한다는 사실을 수많은 실용적 사례와 흥미로운 이야기를 통해 보여준다. 이는 더 많은 대중(AI와 인지과학 비전문가)이 두 AI의 차이에 대해 쉽게 이해할 수 있도록 한다. 지금의 AI가 수행하는 일에 대한 실제적인 이해가 없으며 '전혀 지능적이지 않다'는 사실을 인지하게 하고 올바른 방향으로 AI를 설계해 나가는 전략까지 들려준다!
_스티븐 밀러(아마존 독자)

이 책은 딥러닝이 장기적으로 AI의 만병통치약이 아니라는 사실을 광범위한 사례와 근거를 통해 알려준다. 딥러닝으로 설계된 AI는 학습할 데이터 양이 충분히 많아야 하고 패턴을 식별하기 위해 일련의 알고리즘을 필수로 한다는 점에서 점점 더 분명한 한계가 드러나고 있다. 저자들은 이에 상식과 인지 모델, 추론 능력을 가진 AI로 재설계해야 한다고 주장한다. 현재 AI가 사회적, 정치적, 산업적 영역에 미치게 될 영향을 고려했을 때 이 책의 주장은 충분히 귀 기울여야 할 가치가 있다.
_리카르도(아마존 독자)

저자의 글_ AI는 훨씬 더 인간다워져야 한다

제1장 꿈과 현실의 간극에 선 AI
과대평가된 AI의 문제점 | 기계는 얼마나 인간과 가까워졌나 | '닫힌 세계'에 갇혀 있는 인공지능 | 세상의 다양성과 복잡함을 기계가 알 수 있을까 | 지금의 AI 연구는 잘못된 길로 가고 있다

제2장 진짜 위협인가, 위협적인 척인가?
터미네이터는 없다 | 의도를 알지 못하는 어리석은 하인 | 지금의 AI를 얼마나 믿을 수 있을까 | 빅데이터를 넘어선 새로운 접근법을 찾아야 할 때

제3장 딥러닝을 너무 믿지 마라
지금, 왜 딥러닝에 주목해야 하는가 | 인간의 뇌를 닮은 시스템 | 불가능이 없는 딥러닝의 탄생? | 탐욕스럽고 불안정하며 알 수 없는 존재 | 완전한 지성이 아닌 알고리즘의 하나일 뿐

제4장 구글은 문맹인가, 언어 천재인가?
기계는 정말 글을 이해할 수 있을까 | 똑똑한 AI가 제대로 읽지 못하는 이유 | 비유, 상식, 추론을 통합하는 일 | 링크를 찾는 것과 질문을 이해하는 것의 차이 | 시리는 정말 비서가 될 수 있는가 | 추론하지 못하는 구글 번역의 한계 | 인풋과 아웃풋으로 설명할 수 없는 언어의 미묘함 | 지금의 AI가 인간처럼 읽지 못하는 이유 | 인간의 '상식'을 기계에게 이해시키는 일 | 세상을 모르고 언어를 알 수는 없다

제5장 로봇은 정말 '다 알아서' 해줄까?
인간의 일자리를 아직 안전하다 | 가정용 로봇은 꿈의 영역일까 | 알고 보면 대단한 로봇청소기의 능력 | 인간에게는 쉬운 일이 로봇에게는 어렵다 | 닫힌 시스템은 알 수 없는 열린 세계 | AI에게는 큰 도전인 일상적인 업무 | '다 알아서 하는 로봇'은 언제쯤 실현될까

제6장 인간 정신이 주는 11가지 인사이트
'마스터 알고리즘'은 존재하지 않는다 | 기계에는 '표상'이 없다 | 세상을 이해하는 도구, 추상화와 일반화 | AI는 유연성을 가지고 생각할 수 있는가 | 규칙과 불규칙을 통합하는 인간 정신의 비밀 | 단어의 합은 문장이 아니다? | 같은 말도 맥락 안에서 달라진다 | 숨겨진 본질을 간파하는 능력이 필요하다 | 인과성을 학습하는 일의 어려움 | 인간의 경험과 딥러닝의 차이점 | 무에서 유를 만들려 하지 말라

제7장 상식과 딥 언더스탠딩으로 가는 길
상식을 '코딩'하는 일의 어려움 | 상식을 명확하고 애매하지 않게 나타내는 방식 | 수천 개의 지식에서 관계를 찾아내는 법 | 시간, 공간 그리고 인과성 | 진보의 시작은 유동성을 얻는 데 있다 | 계획을 세우고 수정할 줄 아는 로봇 | 시뮬레이션만으로는 부족하다 | 부정확하고 불완전한 인간이 AI보다 나은 점 | 범용지능으로 가는 길

제8장 신뢰할 수 있는 AI를 향해
AI에도 안전 법규가 필요하다 | AI가 판도라의 상자가 되어서는 안 된다 | 소프트웨어의 신뢰성을 높이는 접근법 | 지름길은 없다 | 버그 없고 위해를 가하지 않는 AI | 로봇이 가져야 할 가치관은 무엇인가 | 진정한 의미의 '생각'을 할 수 있는 인공지능 | 더 나은 AI는 있다

감사의 말
추천 도서
참고문헌
주
찾아보기
이미지 출처

게리 마커스 게리 마커스(Gary Marcus)



뉴욕대학교(New York University) 심리학·신경과학 교수이자 로버스트닷(AIRobust.AI) 창립자 겸 CEO다. 햄프셔대학교(Hampshire College)에서 인지과학으로 석사 학위를, MIT대학교에서 뇌과학 연구로 박사 학위를 마쳤다. 심리학, 언어학, 분자생물학을 통합해 인간 마음의 기원을 연구한 세계적인 학자로 손꼽힌다. 23세의 나이로 MIT대학교에서 스티븐 핑커 교수의 지도하에 뇌와 인지과학을 연구했으며 1996년 전도유망한 젊은 심리학자들에게 수여되는 로버트 판츠상(Robert Fantz award)을 수상했다. 저자는 뇌과학과 진화심리학, 언어학 등 분야를 넘나들며 〈뉴욕타임스〉, 〈월스트리트저널〉, 《뉴요커》, 《네이처》 등 유수의 일간지와 잡지에 흥미롭고 풍부한 인사이트가 넘치는 글을 기고하며 대중과 호흡하는 지성으로 알려져 있다. 2016년에는 우버의 자회사인 머신러닝 스타트업 지오메트릭 인텔리전스(Geometric Intelligence)를 설립하고 최고경영자로 재직했다.

저서로는 세계적인 베스트셀러 《클루지》, 《마음이 태어나는 곳》, 《뇌과학의 비밀》 등이 있다.