AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다

AGI를 이해하기 위해 가장 처음으로 읽어야 할 책!
다가올 'AGI의 시대'를 한 권으로 정리하다

"우리는 인간보다 더 똑똑한 사물이 생긴다는 것이 무엇인지 경험해본 적이 없습니다."

2024년 노벨 물리학을 수상한 제프리 힌턴의 이 말은 우리 사회에 강렬한 경고를 던진다. 인간보다 뛰어난 존재인 AGI가 곧 현실로 다가올 것이며 이에 대한 준비가 부족하다는 사실을 일깨우는 메시지다. AGI의 등장은 단순한 기술 혁신을 넘어, 인간의 가치와 규범 그리고 통제력의 본질을 시험하는 중대한 전환점이 될 것이다.

이 책은 AGI 시대를 준비하기 위해 반드시 알아야 할 핵심 주제를 다룬다. '인공일반지능', 즉 AGI의 정의와 그에 대한 논쟁은 물론 AGI가 가져올 기회와 위협을 균형 있게 소개하며, 이를 안전하게 활용하기 위한 핵심 기술인 '얼라인먼트'를 기술 및 기업 전략적 관점에서 분석한다. 또한 각국 정부와 국제기구, 기업들이 AGI 선점을 위해 펼치는 치열한 경쟁과 협력의 현황을 조명한다. 이 책을 덮은 후, 우리는 인공지능을 바라보는 현재의 관점을 새롭게 정립하고 정책적 대응을 명확히 직시하며 다가올 AGI의 시대를 맞이하는 데 필요한 통찰을 얻을 수 있을 것이다.

| 1부 | AGI의 시대

1장 논쟁의 중심, AGI
1.1 AGI의 시작
1.2 프론티어 모델, AGI, ASI 그리고 ACI
1.3 AGI가 온다
1.4 AGI는 당분간 달성하기 어려울 것이라는 사람들
1.5 AI 전문 연구자와 기업인들의 견해
1.6 AGI는 어떻게 등장하는가
1.7 AGI를 레벨로 나누어서 분류하기
1.8 GPT-4는 튜링 테스트를 통과했는가

2장 AGI의 잠재적 위험
2.1 문학 작품에 나타난 AGI에 대한 경고
2.2 AI의 최고 연구자들의 경고
2.3 AI로 인한 인류 멸종 위기에 대한 논쟁
2.4 파멸론자, 효과적 이타주의자, 효과적 가속주의자
2.5 AI 파멸론에 대한 비판

1부를 마치며

| 2부 | 얼라인먼트: 연구와 정책

3장 얼라인먼트 문제란 무엇인가
3.1 얼라인먼트
3.2 속임수를 사용하는 AI
3.3 챗GPT와 트롤리 문제

4장 얼라인먼트 연구의 주요 방향
4.1 데이터, 학습, 평가 영역에서의 얼라인먼트
4.2 안전과 얼라인먼트 연구의 근본 과제

5장 얼라인먼트 연구 전문 그룹
5.1 얼라인먼트 연구 센터와 모델 평가 및 위협 연구
5.2 데이터 출처 이니셔티브
5.3 주요 대학과 지역의 얼라인먼트 연구 그룹

6장 얼라인먼트 문제에 대응하는 주요 기업의 접근 방법
6.1 오픈AI의 접근
6.2 앤스로픽의 얼라인먼트 기술과 정책
6.3 구글 딥마인드
6.4 집단 얼라인먼트
6.5 해석 가능성을 높이기 위한 연구

2부를 마치며

| 3부 | 정책적 대응

7장 AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력
7.1 G7 히로시마 AI 프로세스
7.2 유럽연합의 AI법과 관련 이슈
7.3 영국 블레츨리 선언과 AI 안전연구소
7.4 미국 바이든 행정명령과 후속 조치들
7.5 프랑스, 중국, 캐나다 등 여러 국가의 움직임
7.6 프론티어 모델 포럼과 AI 얼라이언스

3부를 마치며

한상기 서울대 컴퓨터공학과를 졸업하고 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사 학위를 취득했다. 삼성전자 전략기획실과 미디어 서비스 사업팀에서 인터넷 사업을 담당한 후 2003년 다음커뮤니케이션 전략 대표와 일본 법인장을 역임했다. 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다. 현재 기업을 위한 기술 전략 컨설팅, 정부 정책 자문과 연구 수행 그리고 기술과 사회를 주제로 강연하고 있다. 인공지능 윤리를 위한 기술 프레임워크, 신뢰 가능한 인공지능 등에 대한 연구 과제를 수행했으며 슬로우뉴스 등 여러 매체에 기술 관련 칼럼을 기고하고 있다. 공공 영역에서는 인공지능 데이터세트 구축을 위한 AI 데이터 로드맵 총괄기획위원, 인공지능 그랜드 챌린지 기획위원으로 활동했다. 지은 책으로는 『신뢰할 수 있는 인공지능』 『한상기의 소셜미디어 특강』이 있으며 『인공지능은 어떻게 산업의 미래를 바꾸는가』 『4차 산업혁명과 미래사회 Ⅱ』 『초연결시대인간-미디어-문화』에 공동 저자로 참여했다.