왜 AI에겐 우리가 필요한가

이 책은 우리 보통 사람들이 AI에 우리의 최고 가치와 이상과 관심사를 반영하고 공익에 기여할 심오한 의도성을 불어넣을 수 있다는 희망을 준다. 하딩은 "내게 한 가지 바람이 있다면 아무쪼록 훨씬 더 다양한 전문 능력과 시각을 가진 사람들이 이 책에서 제시한 논의를 통해 이 테크놀로지의 발전 경로에 동참하도록 설득하는 것이다. 미래는 우리 모두의 것이며, 인공지능 관련 당면 과제는 기존 'AI 전문가'들에게만 맡기기에는 너무 복잡하고 통합적이다"고 말한다. 그러면서 이 기술이 최악의 두려움에서 벗어나 신뢰할 수 있는 미래를 향해 나아가도록 이끄는 것은 바로 우리에게 달렸다고 역설한다.
이 책은 초보자용 AI 안내서나 사용 설명서가 아니다. AI의 심층적 기술 요소를 설명하는 데 많은 시간을 할애하지도 않는다. 문제가 무엇이고, 과거에는 혁신적 테크놀로지에 대한 접근 방식이 어땠으며, 독자들이 동의하든 그렇지 않든 미래에 대한 저자의 견해를 명확히 전달하는 것이 이 책의 의도다. 이를 설명하는 데 과거의 혁신 과학기술 사례들을 활용한다.
그러나 역사상 모든 혁신 기술 사례를 담을 수는 없다. 따라서 저자는 이 연구의 목적에 맞춰 기본 원칙을 세우고 거기서부터 선별작업을 진행했다. 오늘날의 사회 구조 및 정치 과정과 직접적인 관련성이 있는지를 고려해 제2차 세계대전 이후로 제한했다. 또한 지리적으로는 미국과 영국으로 국한했다. 이 책의 목적이 역사·정치·테크놀로지에 대한 저자 개인적 지식의 집대성인 만큼 이 경험 및 전문 지식의 지리적 한계를 반영할 수밖에 없다고 판단해서다.
정치와 테크놀로지의 연결고리에서 15년을 일한 저자의 남다른 이력은 이 책의 성격을 잘 말해준다. 옥스퍼드 대학교에서 현대사를 전공하고, 하버드 대학교 예술과학대학원 연구원을 지냈다. 2013년 하딩은 영국 정부의 심장부에서 근무하던 일자리를 박차고 나가 테크 산업계로 전업했다. 당시 동료들은 인터넷 검색엔진 기업에서 일하겠다는 저자를 약간 미쳤다고 생각했다. 중요한 사회·경제적 쟁점들은 정부와 입법과 정책 입안의 소관이었으므로 어쩌면 그들의 의문은 당연했다. 하지만 저자는 인재와 자원이 집중된 이 업계가 어마어마한 규모로 좋은 일을 수행할 잠재력을 지녔으나, 한편으로 미래를 구축하는 사람들과 미래를 관리할 업무를 맡은 사람들 사이에 더 많은 이해와 소통이 필요하다고 느꼈다. 두 집단 간에는 상대적 지식 격차에서 비롯된 민주주의적 결핍이 있었고, 저자는 이 때문에 사회가 장차 다가올 거대한 변화를 헤쳐나가는 역량에 커다란 문제가 생길 수 있다고 생각했다.
인공지능은 앞선 원자력과 우주 역량처럼 한 사회가 스스로를 바라보는 관점의 연장선이 된 기술이다. 실리콘밸리의 신념과 선택과 선호가 적잖이 작용한 덕에 전 세계 지도자들이 이제는 자국의 미래 번영에 매우 중요하다고 믿을 정도로 AI는 시대정신과 정치적 담론을 사로잡았다. 그러나 이 지도자들과 나머지 우리가 AI를 바라보는 프리즘은 필연적으로 현재의 가치와 경험과 정치적 분위기에 의해 형성되기 마련이다. 우리의 과제는 우리가 어떻게 여기까지 왔고, 어떤 미래를 원하며, 우리의 정치적·기술적 선택이 그 미래를 이루는 데 도움이 될지 아니면 방해가 될지 잠시 멈춰 성찰하는 것이다.


포괄적 용어로서 AI
AI를 둘러싼 불안과 매혹이 공존하는 것으로 볼 때, 급변점에 도달했다고 할 수 있다. 표현만 해도 이전에는 틈새 학문 분야에 국한되었던 '인공지능' 또는 'AI'란 말이 이제는 컴퓨터과학의 수많은 기술과 제품과 서비스를 설명하는 포괄적 용어로 널리 사용된다. 체스 게임의 모든 규칙과 전략을 코딩하지 않고도 수백만 가지 체스 게임을 학습함으로써 체스 두는 방법을 익히듯 컴퓨터 프로그램이 명시적으로 프로그래밍하지 않아도 작업을 수행할 수 있게 하는 방법을 말한다. 또한 'AI'란 용어는 챗GPT(ChatGPT) 같은 생성형 모델부터 안면인식 프로그램이나 심지어 받은 편지함에서 귀찮은 스팸메일을 필터링하는 것 같은 최첨단 알고리즘에 이르기까지 특정한 기술 역량을 한마디로 요약하는 데도 사용된다. 데이터가 어떤 것이든, 제품이 어떤 기능을 수행한다고 표방하든, 방대한 양의 데이터에서 패턴을 매칭하는 것도 AI라 부른다. 제품과 목표를 차별화하기 위해 일부에서는 'AGI', 즉 범용인공지능(artificial general intelligence)을 거론한다. 상이한 과제 사이에 학습된 지식을 전달할 수 있고 전 분야에서 잠재적으로 인간의 인지 능력을 뛰어넘을 수 있는 한층 똑똑한 AI 프로그램을 가리킨다. 여기서 '초지능(superintelligence)' '신과 같은 AI' 등의 표현이 파생했다. 이제 AI는 더 놀라운 작업을 완수하는 갈수록 더 똑똑한 소프트웨어를 의미하기에 이르렀다.
그러나 AI는 마법이 아니며, 불가피하지도 않다. 그것을 구축하는 것은 인간이고, 그 모든 장점과 결함은 인간이 제공한다. 그것은 선택이며, 그것을 만들고 누리고 규제하는 사람들의 기분·가치·정치에 따라 내려지고 취소될 수 있는 일련의 결정이다. 아주 현실적인 측면에서 봤을 때, 그것은 새롭지도 않다. 역사에는 어떻게 구축하고 사회와 그 지도자들이 어떻게 대응하느냐에 따라 큰 기쁨을 가져다줄 수도, 큰 피해를 끼칠 수도 있는 기술 사례가 얼마든지 있다. 우리가 AI의 발전 방향을 선도할 수 있다는 뜻이다.


AI를 사회에 도입하는 데 더 다양한 집단, 더 많은 사람이 참여하는 것이 중요하다
AI는 강력하고 혁신적이다. 그러나 최근 몇 년간의 AI 열풍은 테크놀로지 선구자들을 그들의 창조물이 흔히 초래한 사회적 문제의 권위자로 위치시키는 신콤플렉스(god complex)에 일조했다. 과학자와 혁신가의 말을 경청하는 것은 중요하다. 그러나 AI 열풍으로 이익을 보는 자들이 그 일을 어떻게 판단해야 하는지에 대한 전문가는 아니다. 오히려 AI 기반 노동자 감시의 최전선에 이미 살고 있거나 AI가 의사결정을 하는 카프카식 악몽에 갇혀 있는 사람들이 그 일에 훨씬 더 적격이다. 따라서 한층 더 다양한 집단의 사람들이 AI의 미래 형성에 개입하는 것이 중요하다.
변혁의 힘을 가진 모든 테크놀로지의 등장이 그랬듯 우리가 실제로 직면한 것은 우리 자신의 최고와 최악의 모습이다. 나, 너, 우리, 즉 인간은 지금 이 순간을 판단하고, AI를 어떻게 사용할 수 있을지, 어떻게 사용해야 할지를 정하는 대화와 결정과 정책에 참여할 모든 권리가 있다. 이 기술을 의심쩍거나 억압적인 용도로 쓰지 못하게 하고 평화와 공동의 목적에 기여하는 방향으로 이끌려면 수고가 따른다. AI는 선의의 잠재력을 실현할 수 있다. 우리가 좋아하고 신뢰하며 궁극적으로 받아들일 만한 기술이 될 수 있다. 하지만 그러려면 집단적 인간성의 가장 좋은 부분을 담아야 하며, 우리 중 되도록 더 많은 사람이 AI의 미래와 그것이 어떻게 우리 삶의 일부가 될 것인지를 결정하는 데 참여해야 한다.


우주 경쟁
닐 암스트롱과 버즈 올드린은 달 표면을 떠나 용감한 지구 귀환을 위해 착륙선 이글호로 돌아오면서 아폴로호의 평화적인 의도의 상징을 우주에 남겼다. 2년 전 추락 사고로 사망한 소련 우주비행사 유리 가가린과 블라디미르 코마로프를 기리는 두 개의 메달, 그리고 자신들과 같은 목표를 추구하다 목숨을 잃은 미국 우주비행사들을 위한 아폴로 1호 조각이다. 금색 올리브 나뭇가지 배지는 지금까지도 달 표면에 남아 있는 패키지의 일부다. 암스트롱은 달의 빛나는 흰색 표면이 자기 뒤에 보이게 사진을 찍은 뒤 자신이 뛰어내려 역사를 창조했던 바로 그 달 착륙선에서 계단에 부착된 강철판의 나사를 조심스럽게 풀었다. 그는 이 명판을 달의 먼지 속에 놓았다. 바람이 없어 장차 그곳에 착륙할 모든 사람에게 그 명판은 그대로 노출될 터였다. 거기 새겨진 불멸의 말은 이것이다.
"우리는 전 인류의 평화를 위해 왔다."
아무리 불완전하다 해도, 그 기원이 전쟁이었을지라도, 이 고귀한 생각과 그것을 지키려던 전 세계의 노력은 달 탐사선 발사의 가장 놀라운 유산이다.


체외수정
낙태권을 둘러싼 분열로 들끓던 1970년대 미국은 '생명'이 언제부터 시작되는지, 태아에 권리가 있는지, 정부가 여성의 선택권과 생명 중 어디에 비중을 둬야 하는지를 놓고 혼란에 빠졌다. 로널드 레이건 대통령과 후임인 조지 H. W. 부시 대통령은 낙태를 헌법상 권리로 인정한 1973년 연방대법원의 '로 대 웨이드(Roe v. Wade)' 판결 이후 지독한 낙태 논쟁과 맞물린 반발을 우려해 인간 배아 연구라는 새로운 분야의 연방 기금 확보를 거의 불가능하게 만들었다. 1970년대 말 인간 배아 연구에 대한 연방 기금 지원 중단은 해제되었지만, 미국의 모든 태생학 연구는 민간 부문에 떠넘겨진 뒤였고, 당연히 초점은 윤리적 경계 설정보다는 이윤에 더 맞춰졌을 테고 복잡한 도덕적·윤리적·과학적 문제는 사법제도의 해결 과제로 남았다. 과학 초강대국이 이렇게 주도권을 포기하면서 이 분야를 정립할 문은 다른 나라들에 활짝 열렸다.
체외수정과 배아 연구가 본격적으로 시작된 곳은 영국이고, 최초의 '시험관 아기' 탄생으로 명성을 얻은 곳도 영국이다. 과학적 발견의 탁월함에다 당시 의회의 진지한 토론과 심의 민주주의가 뒤따랐고, 그 결과 영국은 과학 자체만이 아니라 그런 혁신을 가능케 하는 규제 환경에서도 세계의 선도국이 되었다. 그것은 사회학자이자 생식 생물학자인 사라 프랭클린(Sarah Franklin) 교수가 말했듯 "엄격하지만 관대한" 제도다. 이렇듯 체외수정과 인간 배아 연구를 일반 대중의 삶과 통합한 영국의 성공 사례는 과학적 진보를 둘러싼 합리적인 공론이 얼마든지 가능함을 입증한다.


인터넷
인터넷 커뮤니티의, 인터넷 커뮤니티를 위한 국제 기구인 국제인터넷주소관리기구(ICANN)의 개념은 인터넷이 가져올 결과에 대한 낙관주의와 신뢰를 배경으로 탄생했다. 그것은 명확한 난제, 즉 어떻게 해야 국경을 넘나드는 무정형의 테크놀로지를 잘 관리할 수 있을 것인가에 대한 해답이었다. 다자간 토론·타협·합의가 그 해답이다. 그런데 문제는 인공지능이 시민과 정부, 정부와 힘있는 기업들, 자유민주주의와 권위주의의 정치적 이념들 사이에 신뢰가 무너진 환경 속에서 구축되고 있다는 점이다. 하지만 ICANN에서 교훈을 얻을 수 있다. 직접적인 유사성은 없지만 참여하는 정부, 대표자 정부, 협의하는 정부라는 도구가 AI 기반 기술의 허용 한도를 판단하는 데 어떻게 활용될 수 있는지를 보여준다. 합의는 국제적 차원에서도 가능하다.
그러나 ICANN이 거의 무너질 뻔한 이야기에도 그에 못지않은 중요한 교훈이 있다. 최고의 이상에서 비롯된 대담한 비전도 중요하지만, 그 가치를 세상에 투영하고자 한다면 우리 스스로가 그 이상을 지켜야 한다는 것이다.


AI 의사결정을 어디까지 허용할 수 있는가? 그 선을 어디에 그을지는 누가 결정할 것인가? 이는 지극히 어려운 질문들이며, 확고하고 상반된 견해들이 존재한다. 인공지능 업계가 인간 발생학 논쟁 사례에서 교훈을 찾는다면, 그것은 바로 이 모든 다양한 견해를 표명하게 하고 경청해야 한다는 것이다. 하지만 경청이란 고개를 끄덕이고 미소 지은 채 원래 계획대로 계속 진행하는 것 그 이상을 의미한다. 진정으로 민주적 과정이라면 상반된 의견들까지도 존중하고 아울러야 한다. 또 참가자 모두 약간의 실망감을 느낄 규칙으로 마무리될 가능성도 높다. 이것이 진정한 타협의 본질이다.
AI는 세계적 테크놀로지가 될 것이고, 가장 어려운 도전과 큰 기회에는 세계적 협력이 필요하다. AI 분야에서 국가적 우위를 내세우는 태도는 국제사회의 신뢰를 약화시킬 뿐이다. 민주주의 가치에 위배되는 AI 사용은 그런 신뢰를 한층 더 약화시킨다. AI를 어떻게 사용하면 안 되는지의 조건을 확립하는 작업부터 시작해야 한다.

"나의 개인적 야심은 과학이 우리 최고의 모습을 반영하는 미래를 보고자 하는 모든 이들을 격려하고 그들에게 활기를 불어넣는 것이다. …… 인간의 독창성과 열정과 야망은 끊임없이 세상을 변화시킨다. 기억하라, 희망에는 잘못이 없고 빈곤한 비전에는 지혜가 없다는 것을. 신기술로 세상을 반드시 더 나은 방향으로 변화시킬 가치들에 영향을 미치는 것도 그 가치들을 선택하는 것도 우리 모두에게 달려 있다. AI에겐 우리가 필요하다."

머리말
1 그림자 자아
2 평화와 전쟁: 우주 탐사와 유엔 우주조약
3 과학과 조사: 체외수정과 워녹 위원회
4 목적과 이윤: 9·11 이전의 인터넷
5 신뢰와 테러: 9·11 이후의 인터넷
결론: 역사의 교훈

감사의 글
주
참고문헌
찾아보기

베리티 하딩 (Verity Harding)
인공지능과 공공정책 분야에서 세계적으로 인정받는 전문가로, 〈타임〉이 선정한 AI 분야 가장 영향력 있는 인물 100인 중 한 사람이다. 현재 케임브리지 대학교 베넷 공공정책연구소 AI 및 지정학 프로젝트 디렉터이며, 지저스칼리지 인텔렉추얼 포럼 수석 연구원이다. 10년 동안 알파벳에서 근무했으며, 그 후 딥마인드의 공공정책 글로벌 책임자로 일했다. 2017년 회사의 연구 및 윤리 부서 DMES(DeepMind Ethics & Society)와 비영리 다중이해관계자 조직인 'AI에 대한 파트너십(Partnership on AI)'을 공동 설립했다. 2018~2019년에는 G20이 서명한 최초의 AI 원칙을 개발한 OECD의 AI 전문가 네트워크 일원이었다. 유럽의 구글 보안 정책 책임자, 영국 부총리 닉 클레그의 특별 고문으로 일하기도 했다. 옥스퍼드 대학교에서 현대사를 전공했으며, 하버드 대학교 예술과학대학원 연구원을 지냈다.