AI 경제학: 경제 시스템의 판도 변화

인공지능의 시대에 누가 지배력을 얻고 누가 잃는가

현재 전 세계적으로 가장 큰 이슈는 인공지능인 듯하다. 인공지능 관련 기업들이 전 세계 기업 순위 상위권을 독차지하고, 매일매일 순위도 엎치락뒤치락 하는 형국이다.
그렇다면 인공지능(Artificial Intelligence, 人工智能)이란 무엇인가? 인간의 지능이 갖는 학습, 추리, 적응, 논증 따위의 기능을 갖춘 컴퓨터 시스템을 의미한다. 2016년 딥마인드의 알파고가 이세돌 9단과 바둑 대국에서 4승 1패로 크게 이기던 때에도 많은 사람이 충격을 받았다. 지금은 인공지능이 구현한 세상인지 실제 현실인지조차 헷갈릴 만큼 급격한 변화 속에서 두려움까지 불러일으키고 있다.
저자들은 2018년 펴낸 《예측 기계》에서 인공지능의 경제학을 주제로 언급할 만한 것은 다 말했다고 생각했다. 그러나 전혀 그렇지 않았다. 《예측 기계》는 인공지능 경제학을 위한 체계를 제시했고, 베스트셀러에도 올랐다(우리나라에서도 출간되었으나 현재는 절판되었다). 그러나 《예측 기계》의 체계에서는 전체의 일부, 즉 도입 단계 솔루션만 다루었다. 인공지능의 또 다른 핵심 부분, 즉 시스템 부분에 대해서는 언급조차 못했다. 이 책에서 남은 이야기를 한다.
이 책은 인공지능을 둘러싼 어마어마한 기회와 도전을 설명한다. 금융에서 제조업에 이르기까지, 의류 산업에서 광업에 이르기까지 인공지능 시스템의 영향은 전기와 인터넷처럼 모든 곳에 미칠 것이다. 물론 인공지능은 사람들의 일자리를 줄이고 앞으로 수십 년 동안 여러 산업에 변화의 바람을 불러일으킬 것이다. 따라서 아직 와 닿지 않지만 다가올 혁신의 토대가 될 시스템 차원의 변화를 주시할 필요가 있다. 인공지능에 대한 기초 경제학과 인공지능의 쓸모를 알리는 책 가운데 이만큼 통찰력을 갖춘 책은 없다.


인공지능의 핵심 특징은 '예측'이다

"캐나다의 첫 번째 인공지능 관련 유니콘은 어느 도시에서 등장할 것 같습니까?" 과학 기반의 스타트업 양성 프로그램을 운영하는 '창조적 파괴 연구소(Creative Destruction Lab, CDL)'를 설립해 인공지능 분야도 다루던 저자들에게 사람들이 한 질문이다. "몬트리올 아니면 토론토겠지요. 어쩌면 에드먼턴일 수도 있고요."
하지만 그들의 예측은 틀리고 말았다. 인공지능 상용화에 대한 지식이 적지 않았는데도 말이다.
2020년 11월 19일, 〈월스트리트 저널〉의 헤드라인에는 이렇게 쓰여 있었다. "미국 장외증권거래소의 지주회사 나스닥이 금융 부정 탐지 기업 베라핀(Verafin)을 27억 5000만 달러에 인수하다." 베라핀은 뉴펀들랜드주의 주도 세인트존스에 본사를 두고 있다. 세인트존스는 좀처럼 큰 사건이 일어나지 않았고, 뉴펀들랜드주는 캐나다에서 가장 동쪽에 있으며 인구는 50만 명이 겨우 넘었다. 무엇보다 기술 분야와는 별 상관이 없는 곳이었다.
나스닥이 사려 한 것은 인공지능이었다. 베라핀은 투자를 크게 늘려 금융 부정을 예측하고, 은행 고객의 신원을 인증하는 시스템을 구축했다. 이런 시스템은 은행이 규제를 준수하며 영업하기 위해 핵심적으로 갖추어야 하는 것이었다. 이 시스템에는 빅 데이터가 반드시 필요했으며, 은행과 비영리 금융 기관의 데이터는 그중에서 가장 큰 부분이었다.
저자들의 예측이 틀린 이유는 인공지능 자체의 경제적 특징, 즉 예측 비용의 하락에는 주목하면서도 인공지능을 동반해야 하는 새로운 시스템의 구축을 둘러싼 경제학은 등한시했기 때문이다. 저자들은 이 새로운 시스템을 더 잘 이해했더라면, 최첨단 머신 러닝 모델을 제작하는 기술적 환경을 평가할 것이 아니라 예측 문제를 중심에 두고 응용 환경을 조사했을 테고 데이터과학자들을 고용해 예측 분석을 조직의 워크플로(workflow)에 통합시킨 기업들을 살펴봤을 것이며, 따라서 뉴펀들랜드주 세인트존스에 본사를 두고 있는 베라핀을 주목했을 것이라고 말한다.


무르익는 시간: 도입 단계 솔루션을 넘어 시스템 단계 솔루션으로

기술의 잠재력을 확인한 때로부터 광범위한 수용에 이를 때까지 '무르익는 시간'이 필요하다. 무르익는 시간 동안 드러나는 특징 중 하나는 도입 단계 솔루션이 거둔 성공과 그에 대한 열광이다. 그러나 얼핏 인공지능은 여전히 기술 시장의 일부를 겨냥한 상품처럼 보인다. 이미 응용 단계 솔루션에서도 어느 정도 발전과 실험이 이루어졌다. 하지만 이 솔루션의 쓰임새는 제한적이다. 현재 이러한 응용 단계 솔루션은 전화기나 자동차 안전 기능 같은 기성 상품의 기능을 향상시키고 있다.
무르익는 시간 동안 기업가와 경영자는 이러한 응용 단계 솔루션을 수용하는 것이 경제적으로 유의미해지도록 애쓴다. 네이선 로젠버그가 주목했듯 기술의 경우 "무수한 사업 실패는 대부분 창업자가 자신이 우연히 매료된 부분과 전체 시스템의 나머지 부분 사이의 상호 의존이라는 연관성을 이해하지 못했기 때문이다".
진정한 변화는 혁신가들이 새로운 시스템 단계 솔루션을 창조할 때 비로소 시작된다. 이러한 시스템 단계 솔루션 자체가 인공지능을 무시할 수 없는 경제적 규모에 이르게끔 하고, 이렇게 해서 모멘텀이 형성되면 추가로 응용 단계 솔루션에 강한 자극을 준다. 이처럼 규모의 잠재력이 보이고 혁신이 잇따라야 인공지능 시스템은 경제적으로 추구할 만한 가치를 얻는다.


20세기가 전기의 시대였다면 21세기는 인공지능의 시대다

"AI는 인간이 여태껏 공들인 것 중에서 아마 가장 중요해질 것이다. 인공지능이 미칠 반향은 전기보다 클 것이다." 구글 CEO 순다르 피차이의 말이다. 저자들은 구글을 제외한 많은 회사가 지금껏 이를 잘 이해하지 못하고 있다고 말한다. 2020년 〈MIT 슬론 매니지먼트 리뷰〉와 보스턴 컨설팅 그룹의 조사에 따르면, 각종 조직의 11퍼센트만이 인공지능으로 얻을 기업의 이익이 상당하다고 평가하는 것으로 나타났다.
구글 브레인을 설립하고 중국 검색 엔진 바이두의 수석과학자를 지낸 인공지능 분야의 선구자 앤드루 응(Andrew Ng)은 다음과 같이 말했다. "인공지능은 새로운 전기(電氣)다. 인공지능에는 모든 산업을 변화시키고 거대한 경제적 가치를 창출할 잠재력이 있다." 저자들 역시 이에 동의한다. 그러나 과거 경험에 비추어볼 때 이런 변화는 오랜 시간에 걸쳐 이루어지고 우여곡절을 겪으리라는 게 저자들의 견해다.
처음 전기 붐이 일었을 때 백열전구가 촛불을 대체하고, 전기 모터가 증기 기관을 대체했다. 이는 도입 단계 솔루션이므로 구조 변화를 반드시 동반해야 하는 것은 아니었다. 그래서 경제는 변화를 겪지 않았다.
인공지능도 마찬가지 상황에 놓여 있다. 현재 인공지능은 예측 분석을 위한 새로운 도구로 쓰인다. 예를 들어 예측력 강화에서 얻을 수 있는 혜택을 이해하는 베라핀 같은 회사는 인공지능의 기업적 이익을 이해하는 11퍼센트에 속한다. 이들은 이미 예측을 수행하고 있으며, 인공지능은 이러한 회사의 예측을 개선하고, 더 빠르고 더 낮은 비용으로 그 일을 처리할 것이다.
발전을 통해 만든 전기를 분산된 공간에서 사용한다는 더 큰 혜택을 이해하고 누리면서 전기의 진정한 잠재력이 실현되었듯, 인공지능은 예측함으로써 얻는 혜택을 완전히 활용할 수 있는 순간에 이르러야 진정한 잠재력을 발휘할 것이다. 이런 혜택이란 예측이 의사 결정의 개선에 기여하는 것을 의미한다.
인공지능은 의사 결정을 개선할 수 있기 때문에 인간이 할 수 있는 모든 일에 큰 영향을 미칠 것이다. 인공지능은 데이터 수집, 모델 수립, 예측 수행 등 기술적 과제뿐 아니라 적재적시에 적절한 의사 결정이 이루어져야 하는 조직적 과제를 해결할 수 있다. 정보의 질이 개선될 경우 새로운 문제 해결 방식을 찾아야 하는 전략적 과제 역시 마찬가지다.


시스템 변화는 판도를 바꾼다

인공지능 수용이 크게 확대된다면, 이는 시스템 변화 때문에 벌어질 테고 그 변화는 판도 역시 바꿀 것이다. 판도가 바뀐다는 것은 인공지능 때문에 한 산업에 속한 기업과 그 내부의 인사들이 대부분 역할의 변화를 겪는다는 뜻이며, 이런 변화와 함께 지배력도 이동한다는 얘기다. 즉, 경제적 승자와 패자가 나뉜다.
이러한 판도 변화를 이해하기 위해 저자들은 농업에서의 예측 문제를 예로 든다. 농업은 기계화로 인해 고용이 부쩍 줄어든 산업이다. 그런데 농장 경영은 여전히 농부의 몫이다. 농장은 크고 처리할 문제도 많은 반면, 그 대부분을 여전히 농부들이 소유하고 있다. 농부들은 산적한 문제에 대한 결정을 내리기 위해 일기 예보를 활용하는데, 토지의 작황은 본질적으로 농부 자신의 예측과 더 일반적으로는 의사 결정에서 농부가 발휘하는 농업 기술에 좌우되는 측면이 강하다.
그런데 상황이 변하고 있다. 농부는 날씨의 변동을 감수하게 마련이지만, 농부가 이를 어떤 식으로 감수할지는 농작물과 농토의 상태에 따라 결정된다. 이 추가적인 위험은 최초로 인터넷을 통해 일기 예보를 제공한 데이비드 프리드버그가 미국 농부들을 상대로 보험 판매를 하던 시절에 깨달았다. 프리드버그는 적외선 위성 이미지 및 토양 구성과 관련한 미국 정부의 데이터 등을 이용해 날씨에 따른 토지별 위험도나 예상 수확량을 계산할 수 있었다.
프리드버그는 농부를 상대로 보험을 판매하기 위해 클라이맷 코퍼레이션(The Climate Corporation)을 설립했는데, 얼마 지나지 않아 농부들이 농토와 관련한 자신의 데이터에 주목한다는 사실을 깨달았다.
예측은 농부에게 가장 중요한 결정, 즉 거름주기, 파종, 수확과 관련한 결정을 내리는 데 큰 역할을 했다. 이러한 결정의 목적은 거의 한결같았다. 수익의 극대화였다. 농사는 농부의 직감에 따른 임기응변식 판단에 따라 이루어졌다. 하지만 클라이맷은 농사를 과학적 의사 결정의 문제이자 확률의 문제로 변화시켰다. 프리드버그는 농부가 확률적 경우의 수를 따질 수 있도록 도운 것이다.
농부들은 새로운 도구를 사용하면서 기술 변화를 이해하는 것에 익숙했는데, 이러한 지식이 그들의 의사 결정 방식을 바꾸었다. 정말로 결정 자체가 바뀌었을 뿐 아니라, 거리상 동떨어진 곳에서 그러한 결정이 내려졌다. 예측 기계가 발전함에 따라 농부들은 점차 그 예측을 바탕으로 의사 결정을 하는 게 아니라 타인에게 그걸 맡길 것이다. 적절한 정보, 기술, 인센티브, 조정 능력을 갖춘 사람이 의사 결정을 맡는 경우가 늘어나면 농업 경영이 개선될 가능성이 크다.


인공지능의 문제점과 해결을 위한 노력

2016년 마이크로소프트의 연구자들이 '테이'라는 인공지능 알고리즘을 출시해 트위터에서 의사소통하는 방법을 학습시켰다. 몇 시간도 안 돼 테이는 모욕적인 트윗을 익히고는 이를 대량 쏟아냈다. 그러나 테이는 유별난 실패작이 아니며, 이런 이야기는 차고 넘친다. 기업을 포함한 많은 조직이 인공지능의 채택을 망설이는 이유다. 인공지능의 예측 성능이 인간만 못해서가 아니라 오히려 인간 행세에 너무 능숙하기 때문이다.
인공지능 예측에는 데이터가 필수적이며, 특히 인간의 선호와 행동에 대한 예측이 담긴 데이터의 경우에는 학습의 원천이 바로 인간이다. 인간을 상대로 하는 게임을 학습하는 경우에는 이러한 사실이 장점일 수 있지만, 인간은 불완전한 존재이고 인공지능은 그 불완전성을 계승한다.
인공지능 솔루션에 대한 사고방식 때문에 우리는 이것이 당면한 문제라는 사실을 깨닫지 못한다. 가령 인사 부서에서 지원자 수백 명의 자격을 심사해야 하는 경우, 먼저 떠오르는 인공지능 사용법은 이 업무를 인간이 아니라 알고리즘에 맡기는 것이다. 이는 결국 예측, 즉 특정한 자격을 갖춘 지원자가 해당 기업에서 의도한 결과를 낼 가능성에 대한 예측을 하는 일이다. 이런 인공지능 사용 방식은 도입 단계 솔루션에 해당하며 충분히 가능하다. 하지만 경우에 따라서는 시스템 차원의 완전한 재설계를 해야 할 필요성도 있다. 편향이라는 바람직하지 못한 결과를 배제하려면 시스템 중심적 사고방식이 반드시 필요하기 때문이다.
미국 노동자 153명 중 1명이 아마존에서 일한다고 한다. 따라서 아마존이 인력 채용을 도울 인공지능 개발에 큰 관심을 쏟는 것은 당연하다. 2014년 아마존은 인공지능 채용 시스템을 도입했다. 그런데 1년도 지나지 않아 그 시스템을 폐기했다. 소프트웨어 부문이나 나머지 기술 부문에 지원한 사람들에 대한 평가가 젠더 중립성을 해치는 식으로 이루어졌기 때문이다. 아마존의 인공지능은 남성 지원자들이 압도적으로 많던 과거 데이터를 기반으로 학습했기 때문이다.
이런 이야기를 듣고 나면 인공지능이 지극히 편향적이라고 생각하게 된다. 하지만 인공지능이 그러한 결정에서 핵심을 차지한다면 객관적 지표를 마련할 수 있을 것이다. 우리는 인공지능이 사람을 대우하는 방식을 파악할 수 있고, 인공지능은 비슷한 사람들을 달리 대우할 뚜렷한 동기를 품지 않기 때문에 분명 실제로 누구든 동등하게 대우하도록 힘을 쏟을 수 있다.

서문: 멀리서 온 성공

1부 무르익는 시간
01 세 가지 유형의 기업가 비유
02 인공지능의 시스템적 수용의 미래
03 인공지능은 예측하는 기술이다

2부 규칙
04 결정하거나 결정을 피하거나
05 감추어진 불확실성
06 규칙은 교착된다

3부 시스템
07 교착된 시스템 대 유연한 시스템
08 시스템 중심적 사고방식
09 지금껏 가장 뛰어난 시스템

4부 지배력
10 판도 변화와 지배력
11 기계가 지배한다고?
12 누적되는 지배력

5부 인공지능이 불러올 판도 변화의 양상
13 대분리
14 확률로 표현되는 사고방식
15 새로운 판단 적임자

6부 새로운 시스템 구상
16 신뢰성 있는 두 가지 시스템 디자인
17 백지상태에서 설계하기
18 시스템 변화에 대한 대비

에필로그: 인공지능의 편향과 시스템

감사의 글
주
찾아보기

어제이 애그러월 (Ajay Agrawal) 토론토 대학교 로트만 경영대학원 전략경영학 교수이자 창업과 혁신을 연구 분야로 하는 석좌교수이다. 창조적 파괴 연구소(CDL)를 설립했으며, 넥스트 캐나다 공동 설립자이기도 하다. 전미경제연구소(NBER) 연구원, 토론토 인공지능 벡터 연구소 초빙 교수이다. 혁신 관련 경제학을 연구하면서, 학술지 〈매니지먼트 사이언스〉의 편집인도 맡고 있다. 브리티시컬럼비아 대학교에서 응용경제학으로 박사 학위를 취득했다. 2022년 캐나다 정부가 수여하는 공로훈장을 받았다.