AI 시대, 인류에게 기회인가 위기인가

AI 충격을 지나 AI가 일상이 되고 삶에 스며드는 단계로 접어든 지금, 우리는 이전과는 전혀 다른 시대의 문턱에 서 있다. 인공지능은 더 이상 먼 미래의 기술이 아니다. 이미 우리의 선택을 돕고 결정을 유도하며 교육과 의료, 금융과 노동의 구조를 조용하지만 근본적으로 바꾸고 있다.

이 책은 바로 그 변화의 한가운데에서 출발한다. 지금 이 순간, 세상은 어떻게 바뀌고 있는지, 그리고 우리는 이 거대한 흐름 앞에서 어떤 선택을 해야 하는지를 차분하고 균형 있게 묻는다.

책은 인공지능을 단순한 기술이 아니라 시대를 재편하는 힘으로 바라본다. 뉴스 추천과 자동완성 같은 일상적인 기능에서부터 의료 진단과 신약 개발, 금융 의사결정과 법률 서비스에 이르기까지 인공지능은 이미 인간의 판단과 행동 깊숙이 개입하고 있다. 나아가 개인 비서 에이전트와 자동화된 소비의 확산은 인간이 직접 하지 않아도 되는 영역을 빠르게 넓혀가고 있다. 이러한 변화는 효율의 문제가 아니라 인간의 역할과 의미 자체를 다시 정의하는 문제로 이어진다.

기술이 발전할수록 새로운 질문도 함께 생겨난다. 우리는 인공지능의 판단을 어디까지 신뢰할 수 있는지, 알고리즘의 편향과 통제 문제를 어떻게 다루어야 하는지, 인간의 일과 가치는 앞으로 어떻게 달라질 것인지 고민하게 된다. 이 책은 다양한 전문가와 사상가들의 논의를 바탕으로 인공지능이 만들어낼 수 있는 가능성과 위험을 동시에 조망한다. 인공지능은 인류에게 가장 큰 기회가 될 수도 있고, 통제하지 못할 경우 가장 큰 위기가 될 수도 있다는 사실을 차분하게 보여준다.

이 책이 강조하는 핵심은 기술 자체가 아니라 방향이다. 인공지능은 인간을 대체하는 존재가 아니라 도구이며, 그 도구를 어떻게 사용할 것인가는 결국 인간의 선택에 달려 있다. 기술이 인간을 이끄는 것이 아니라 인간이 기술을 이끌어야 한다는 점에서, 이 책은 윤리와 제도, 책임과 공존이라는 문제를 함께 제시한다.

인공지능에 대한 정보는 넘쳐나지만, 그것을 하나의 흐름으로 이해하기는 쉽지 않다. 이 책은 흩어진 논의를 정리하고 지금 벌어지고 있는 변화를 구조적으로 이해할 수 있도록 돕는다. 빠르게 변하는 시대 속에서 무엇을 믿고 어떤 방향을 선택해야 하는지 고민하는 독자에게 이 책은 분명한 기준을 제시한다.

결국 이 책이 말하는 것은 단순하다. 인공지능의 미래는 이미 시작되었고, 그 미래의 방향은 아직 결정되지 않았다. 그리고 그 방향을 결정하는 주체는 기술이 아니라 인간이다.

이 책은 인공지능을 이해하는 데서 멈추지 않고, 그 시대를 살아갈 태도까지 생각하게 만드는 책이다.

책을 시작하기에 앞서


여는 말을 대신하여 ? 장밋빛 기대와 엇갈린 재앙과 위험


제1부 인공지능 시대의 도래

1장 다양한 분야에서의 인공지능
1. 일상생활 및 교육 분야
? 일상생활 속에서의 인공지능 기술
? '에이전트 기반 전자상거래' 시대
? 인공지능 기반 교육용 시스템과 도구
2. 보건의료 및 제약 분야
? 보건의료 분야에서의 실용적 접근
? 의료영상 판독 및 진단용 인공지능
? 홈 헬스케어 로봇의 기능과 작동 원칙
? 인공지능 기술을 활용한 신약 개발
3. 금융 및 법률 분야
? 인공지능 기술을 활용한 금융업
? 인공지능 투자자문역 로보어드바이저
? 생성형 인공지능의 활용과 리걸테크

2장 인공지능 시대의 쟁점
1. 인공지능 로봇과 인간
? 인공지능 로봇과 피지컬 인공지능
? 휴머노이드 로봇과 감정 인식 로봇
? 인공지능 섹스 로봇의 등장과 진화
? 인공지능 로봇과 인간의 관계
? 인공지능 로봇의 법적 지위와 권리
2. 트랜스휴머니즘과 인간의 미래
? 트랜스휴머니즘과 뇌·컴퓨터 인터페이스
? 트랜스휴머니즘의 낙관적 전망과 희망
? 트랜스휴머니즘에 대한 철학적·기술적 비판
? 트랜스휴머니즘에 대한 윤리적·사회적 비판
3. 인공지능 예술과 가상 인플루언서
? 인공지능 기술을 활용한 예술
? 창작의 보완적 동반자로서의 인공지능
? 가상 인플루언서의 등장과 활동
? 가상 인플루언서의 사회적·윤리적 쟁점

제2부 인공지능에 대한 비판적 고찰

1장 인공지능의 부정적 영향과 결과
1. 인공지능 기술 자체의 문제
? 생성형 인공지능의 '환각' 현상
? 오픈 소스의 보안 위협
? 자율주행 자동차와 적대적 공격
2. 인공지능 기술의 역기능과 부작용
? 자율살상무기 시스템과 사이버 공격
? 딥페이크와 가짜뉴스
? '알고리즘·데이터' 편향으로 인한 차별
? 생성형 인공지능과의 동반자 관계
3. 민주주의와 포스트휴먼 시대
? '디지털 파놉티콘'과 파놉티콘 감시
? 민주주의에 대한 위협과 부정적 영향
? 새로운 인간으로서의 포스트휴먼
? 포스트휴먼 시대의 사회적·정치적 문제
4. 일자리 감소와 환경 문제
? 노동환경의 변화와 일자리 퇴출
? 인공지능 기술로 인한 실업 문제
? 대량 실업으로 인한 사회적 갈등
? 인공지능 기술로 인한 환경 문제

2장 고전적 기술철학자의 고찰과 경고
1. 자크 엘륄의 기술 사상과 인공지능
? '기술 담론'에 대한 비판
? 기술의 자율성과 인공지능
? 기술의 양면성과 인공지능
2. 인공지능의 한계와 신성화된 인공지능
? 인공지능의 한계와 관련된 지적
? 인공지능의 한계에 대한 반론
? 신성화된 인공지능에 대한 비판
? 새로운 신화로서의 인공지능
3. 한스 요나스의 책임 윤리와 인공지능
? 기술 시대의 윤리로서의 책임 윤리
? 인공지능과 관련된 책임 윤리의 지침
? 인공지능 기술의 위험 요소와 책임 윤리
3장 인공지능 전문가와 사상가의 경고
1. 스튜어트 러셀과 초인적 지능
? 초인적 지능의 위험에 대한 경고
? 인공지능의 위험을 반박하는 주장에 대한 비판
2. 무스타파 술레이만과 인공지능 기술 억제
? 인공지능 기술에 대한 규제와 억제
? 인공지능 기술의 억제를 위한 단계
3. 닉 보스트롬과 초지능 인공지능
? 인류의 생존을 위협하는 초지능 인공지능
? 초지능 인공지능을 통제하는 방법
4. 유발 노아 하라리와 쓸모없는 계급
? 쓸모없는 계급으로 전락할 수 있는 인간
? 진화된 인공지능의 위험에 대한 경고


제3부 인간을 위한 인공지능

1장 윤리적 쟁점과 인공지능 윤리
1. 인공지능과 관련된 윤리적 쟁점
? 인공지능의 딥러닝과 '투명성'
? 인공지능의 편향성과 '알고리즘 편향'
? '책무성'과 '감사가능성'
2. 생명미래연구소와 국제전기전자공학자협회
? 생명미래연구소의 '아실로마 인공지능 23원칙'
? 국제전기전자공학자협회의 '윤리적 조율 설계'
3. 경제협력개발기구, 유네스코, 한국
? 경제협력개발기구의 '인공지능 윤리 원칙'
? 유네스코의 '인공지능 윤리 권고'
? 한국의 인공지능 윤리기준

2장 인공지능 관련 법 제도와 국제 협약
1. 유럽연합의 법 제도
? 유럽연합의 '일반개인정보보호규정'
? '유럽연합 인공지능법'의 장점과 특징
? '유럽연합 인공지능법'의 규제 사항
2. 미국, 중국, 한국의 법 제도
? 미국의 '알고리즘 책임법'
? 미국의 인공지능 패권 유지 전략
? 중국의 인공지능 기술 규제
? 한국의 '인공지능 기본법'
3. 인공지능 관련 국제 협약과 선언
? '히로시마 인공지능 프로세스'와 '브레츨리 선언'
? '국제 인공지능 안전 보고서'
? 인공지능 관련 공개서한과 성명서

3장 새로운 인공지능 시대를 향하여
1. 인공지능과 인간의 공존
? 인공지능으로 인한 재앙적 위험
? 공존 관계와 협력적 파트너십
? 신뢰할 수 있는 인공지능
2. 새로운 인공지능을 위한 방향
? 인간의 창의성과 인간다움의 특성
? '인공지능 격차'로 인한 불평등과 소외
? '인공지능 디톡스'를 향한 발걸음
3. 모두를 위한 인공지능 생태계
? 인공지능과 관련된 행위 주체별 책임
? 인공지능 생태계를 위한 '참여적 거버넌스'
? 지속 가능한 인공지능을 위한 방안



책을 마무리하며


인공지능 관련 용어


인공지능 관련 자료


외국어 약어


주(註)


참고문헌

이상민 서울대학교 불어교육과를 졸업하고 동(同) 대학원에서 불문학교육 박사학위를 받았다. (사)기독교세계관학술동역회 실행위원 및 동역회 기관지 『신앙과 삶』 편집위원을 맡고 있다. 프랑스 사상가 자크 엘륄Jacques Ellul을 소개하는 저서들을 꾸준히 펴내고 있으며, 프랑스에서 출간된 『오늘날의 자크 엘륄 Jacques Ellul aujourd'hui』에서 '한국에서의 엘륄 운동의 주동 인물'로 소개되었다.

저서로는 『자크 엘륄, 시대를 앞서간 사상가』, 『기술, 선전, 정치, 혁명』, 『세상 속의 그리스도인 1권, 2권』(공저) 등이 있고, 번역서로는 『기술 체계 Le système technicien』,『잊혀진 소망 L'espérance oubliée』,『이슬람과 기독교 Islam et judéo-christianisme』, 『하나님은 불의한가? Ce Dieu injuste ?』, 『굴욕당한 말 La parole humiliée』(공역) ,『뒤틀려진 기독교 La subversion du christianisme』(공역) 등이 있으며, 편찬서로는 『기초 프랑스어 사전』이 있다.