알고리즘 자본주의(북저널리즘 109)

*북저널리즘은 북(book)과 저널리즘(journalism)의 합성어다. 우리가 지금, 깊이 읽어야 할 주제를 다룬다. 단순한 사실 전달을 넘어 새로운 관점과 해석을 제시하고 사유의 운동을 촉진한다. 현실과 밀착한 지식, 지혜로운 정보를 지향한다. bookjournalism.com

■ 인간을 더욱 더 닮아 가는 기계

2024년 5월 14일 오픈AI가 사람처럼 듣고 말할 수 있는 생성형 인공지능을 선보였다. 플래그십 모델인 'GPT-4o'다. 새로운 GPT는 텍스트를 통해 대화하던 기존 모델과는 달리, 청각과 시각으로도 추론하고 이를 곧바로 음성으로 표현할 수 있다. 사람이 오감을 활용해 정보를 얻고, 다양한 방법으로 의사를 표현하듯, 인공지능 모델이 사진이나 그래픽을 보여 주며, 심지어는 다양한 말투로 대답한다는 의미다.

그뿐만 아니다. 인공지능은 이제 사람의 표현과 감정까지 분석한다. 우리가 대화하며 상대방이 건네는 말의 속도와 높낮이, 작은 눈의 떨림까지 지각하듯, 인공지능도 인간을 상대로, 인간처럼 생각하며, 인간처럼 행동한다. 인공지능은 빠르게 발전하고 있다. 발전의 방향이라는 게 '점차 더 인간을 닮아 가는 것'이라면 말이다.

"안정적인 데이터만 대량으로 주어진다면, 기계는 모든 것을 학습할 수 있다. 인지 기계에서 사고 기계로의 전환이 실현되는 것이다. 2011년 TV 퀴즈쇼 '제퍼디!'에서 인간 챔피언에 승리한 인공지능 '왓슨', 2016년 인간 바둑 챔피언을 꺾은 '알파고' 등은 심층 학습의 힘이 얼마나 심오한지를 과시했다. 이후에 등장한 챗GPT, 미드저니, 스테이블 디퓨전 등 생성 인공지능은 읽고, 쓰고, 듣고, 그림을 그리고, 인간과 대화하거나 코딩을 할 줄 안다. 인공지능은 알고리즘이라는 인지 기계에 기계 지능을 장착한, 신체 없이 사고하는 로봇이다." (147쪽)

인간은 자신과 닮은 무언가에서 동질감을 느끼기도 하지만 그 동질감이 때로는 불쾌함과 두려움으로 번지기도 한다. 특히 그것이 일자리, 즉 삶의 경계와 관련돼 있을 때는 더더욱 그렇다. 로이터통신의 보도에 따르면 전 세계 2000개 대기업 고위 임원 중 41퍼센트가 인공지능 기술로 인해 일자리가 감소할 것으로 예측했다. 이미 기술 기업들은 움직이고 있다. 1분기 마이크로소프트, 구글, 아마존 등의 기술 기업은 미국 내 1분기 전체 감원의 16.5퍼센트를 차지하는 비중으로 해고를 주도했다.

"인공지능이 자본주의적 생산 양식에 본격적으로 도입된다면 문화 산업뿐 아니라 지식 경제 전체에 걸친 일자리 충격이 찾아올 것은 자명하다. 제조업과 육체노동 영역에서 지구 산업은 이미 자동화로 인해 실업과 경제 성장 둔화가 장시간 지속돼 왔다. 지적이고 창조적인 산업 부문도 이미 풍전등화 상태다. 생성 인공지능의 강력한 자연어 및 기계 언어 구사 능력, 이미지·텍스트·사운드의 능동적인 문해와 출력 능력으로 인해 디자인, 창작, 컴퓨터 공학, 의학, 법률과 관련된 업무뿐 아니라 사무나 기획과 관련된 모든 분야도 대체될 수 있다." (152쪽)

■ 인공지능 시대, 사람들은 노동하지 않게 될까?

정말 인공지능 시대에서 사람들은 노동하지 않게 될까? 문제는 그리 간단하지 않다. 《알고리즘 자본주의》는 알고리즘과 인공지능의 시대가 그러한 유/디스토피아의 모습을 하고 있지 않음을 보인다. 이미 우리의 노동은 알고리즘을 타고 인지와 주목으로 대체돼 왔다. 우리는 우리 자신의 즐거움을 채운다는 상상 위에서 구글에 돈을 벌어다 준다. 끊임없는 추천 영상과 좋아요, 구독의 소용돌이 위에서 사람들은 조용히 노동하고, 조용히 착취당한다. 무엇보다 문제적인 것은 우리 시대가 그에 대해 어떠한 문제의식도 제기하지 못했다는 점이다. 우리는 노동하지 않는다는 착각 위에서 노동하고 있다.

"영상 클립을 제작·편집하거나, 1인 방송을 운영하거나, 여행지에서 사진을 찍거나 음식을 먹고 명품 옷과 셀피를 제작하는 활동은 이윤 추구 활동으로는 인식되더라도 그 과정이 노동으로 인식되지는 않는다. 노동의 결과물이 문화 창조 또는 예술의 생산, 미적 재현 등 창의성과 연결되는 경우, 그 자아실현적이고 심미적인 성격 때문에 '좋은 노동'으로 생각되는 경우가 다반사다. 이는 자연스럽게 열정 페이 및 자기 착취를 정당화하는 기제로 이어진다. 창의 노동을 하는 사람들은 자신이 노동과정을 통제하는 자율적인 주체라고 여기지만, 사실상 여기에는 노동 소외와 노동 지배의 현실이 숨어 있다. 현실적으로는 창의적인 노동을 수행하는 사람 중 극소수만 자율성과 소유권을 누리며, 대부분이 임금 노동자들보다 더 나쁜 조건에서 생활하면서도 이를 자기 합리화하는 방식으로 착취를 내면화한다. 이는 OTT나 음원 등 새로운 플랫폼 기반 문화 콘텐츠 서비스 국면에서 더욱 강화되며, 각국의 문화 산업을 지구적인 네트워크 환경 규모에서 재편한다." (57쪽)

주목해야 할 것은 달라진 노동의 형태가 불러올 효과다. 노동이라는 행위에는 방향성이 있다. 컨베이어 벨트가 한 방향으로 돌아가고, 그 방향에 맞춰 노동자들이 한정된 움직임을 보여야 하는 것처럼, 행위가 노동으로 규정되면 방향성과 틀이 생기게 된다. 알고리즘 자본주의의 시대에서, 우리의 인지와 선택에도 마찬가지의 일이 생겼다. 물론 그 방향은 알고리즘이 결정한다. 나의 행위와 시선, 선택은 데이터로 쌓여 0과 1로 번역된다. 조합된 숫자들은 나의 다음 선택을 유도하고 평가한다. 우리의 인지는 이미 컨베이어 벨트 위에 있다.

"그러나 검색 엔진, 소셜 미디어와 소셜 커머스의 추천·홍보 알고리즘, 유튜브와 거대 언어 모델에 이르기까지 알고리즘은 2000년대 초반에 비해 훨씬 진일보한 데다, 벨러의 생각과 달리 단지 '보는 것'만이 아닌 '느끼고, 생각하고, 읽어 내는' 모든 행위에 개입하게 됐다. 최근 정보 기술과 미디어 네트워크는 청중에게 콘텐츠를 판매해서 이윤을 내는 것이 아니라 광고주들에게 제조된 청중(manufactured audience)을 판매함으로써 이윤을 만든다" (72쪽)

■ 인공지능과 알고리즘 바깥, 상상력을 복원할 용기

다가오는 인공지능의 시대는 이 흐름을 더욱 가속할 전망이다. 알고리즘이 선택과 인지에 방향성을 부여했다면 인공지능은 그 나아가는 힘과 속도마저 결정해 버린다. 사람들은 자신의 인지와 행동에 주체적으로 속도를 부여할 수 없다. 배달 라이더들이 길을 무시한 채 직선거리를 내달려야 하는 것처럼, 인공지능이 수행하는 인지의 속도에 인간은 따라갈 수 없다. 인간은 언제나 인공지능보다 앞서 인공지능의 결정에 도움을 줘야 하는 보조자였지만, 한편으로는 인공지능의 결정에 완전히 납득하거나 수긍할 수 없는 존재였다. 알고리즘 자본주의가 선택의 문제였다면, 인공지능 자본주의는 속도의 문제다.

"요컨대 알고리즘과 인공지능이 추동하는 인지 자동화 시대에 블랙박스가 되어 가는 제3 섹터를 읽어 내고자 한다면 비인간의 정치학 혹은 비인간의 기술 정치가 요청된다. 보편적 기본소득이나 디지털세와 같은 인간주의 정치의 해결법만으로는 해결될 수 없다. 법과 규범, 사회 계약은 인간들 간의 사회적 관계를 규정하지만, 알고리즘과 인공지능은 프로토콜, 비기표적 기호계의 영역이다. 이 비인간의 층위에서 작동하는 제3 섹터 기술의 기하학에 직접 개입할 수 있을 때 비로소 실낱같은 투쟁 주기의 기회들이 마련될 것이다" (192쪽)

"이 책은 알고리즘 자본주의에 대한 해부도를 그리고, 대안이 가능할 뿐 아니라 우리가 그것을 꿈꿔야 할 수 있음을 역설하기 위해 쓰였다. 알고리즘과 인공지능에 대한 대안적이고 유토피아적인 상상력이 창발돼야 하는 시점이다. 다가올 새로운 자본주의적 수탈과 노예화에 맞서, 민주적 기술의 발명을 위해 우리가 사회적 대화를 시작해야만 하는 이유다." (205쪽)

우리는 알고리즘의 방향성에, 그리고 인공지능이 속도에 어떻게 대처해야 할까? 어쩌면 다른 세계를 상상하는 상상력이 그 해결의 단서가 될 수 있다. 구글의 페이지랭크 검색 방식은 '검색'이라는 무한한 다양성에 하나의 모습을 부여해 버렸다. 유동체가 딱딱한 박스 안에 갇히듯, 페이지랭크 시대 이후의 세계는 검색의 다른 모습을 상상하지 못하게 된 것이다. 미국 법무부가 구글의 검색 독점력에 제동을 걸기 시작한 즈음부터 탈중앙화와 개인화의 바람을 타고 새로운 검색 엔진들이 등장하기 시작했다. 틀을 넓히고, 방향을 분산시키고, 조금 먼 길을 돌아감으로써 우리는 방향과 속도의 독재에 저항할 수 있다. 지금 우리가 두려워해야 할 것은 인간의 노동력을 대체할 인공지능이 아닌, 인공지능처럼 생각하고 내달릴 인간의 미래다.

프롤로그 ; 변환하는 자본, 경계로 내몰리는 노동

1 _ 플랫폼과 알고리즘의 신경망 ; 예속된 인지의 자동화
새로운 자본주의 체스판, 플랫폼의 등장
플랫폼과 알고리즘, 소통을 정량화하다
인지 기계가 생산하는 문화
인지 자동화 : 감각적 주체의 사라짐
알고리즘 탈숙련화 : 해체되는 문해력과 예속되는 해석

2 _ 죽은 노동의 사회 ; 플랫폼과 지대
오, 플랫폼, 나의 알고리즘
플랫폼의 다섯 왕국
지대 : 디지털 지주와 소작농, 혹은 건물주와 세입자

3 _ 주목을 가치로 변환하는 알고리즘
주목 경제와 인지의 로지스틱스
만물 정량 평가 : 검색 엔진과 페이지랭크 알고리즘
관계와 트렌드를 팝니다 : 추천과 피드 알고리즘
제조된 청중과 주목 : 광고와 홍보 알고리즘
광고, 구독료, 후원을 통한 주목의 가치 실현

4 _ 알고리즘 노동과정 ; 어떻게 일하고, 착취당하는가
알고리즘 노동과정의 분석 방법
메타데이터의 인클로저
알고리즘은 작업자로부터 잉여노동을 추출한다
기생적 인수분해 : 플랫폼의 플랫폼, 외주의 외주

5 _ 인공지능과 비인간노동
미세 노동으로 쌓아 올려진 거대 언어 모델
인공지능은 스스로 잉여가치를 만들 수 없다
제3섹터 : 비인간노동과 신경망 분업

6 _ 네트워크와 신피질의 연합, 자유로운 신경망을 향하여
자본주의 소셜 픽션
신경망의 인력과 신피질의 척력
커먼즈 신경망을 향하여

주

북저널리즘 인사이드 ; 알고리즘 바깥으로 산책할 용기

신현우 신현우는 마르크스주의의 시각에서 기술과 문화, 예술을 탐구하는 문화연구자다. 대학에선 문학과 영화를 전공했다. 연구자가 된 후에는 기술비판이론과 미디어 정치경제학을 공부했다. 주요 연구 분야는 플랫폼·인공지능·블록체인·게이밍 영역에 펼쳐진 자본주의 기술과 인간 노동이다. 《사물에 수작부리기》, 《게임의 이론》, 《위기와 성찰의 뉴노멀 시대》, 《인공지능, 플랫폼, 노동의 미래》 등을 썼다. 《문화/과학》의 편집위원이며 서울과학기술대학교에서 과학기술사회, 한국예술종합학교에서 디지털과 예술에 대해 강의한다.