Good AI Bad AI

AI와 인간의 관계에서 우리는 어떻게 우리를 보호할 수 있을까?

1. AI는 우리에게 핑크 빛 미래만을 제안 할까?
현재 우리는 매일매일 발전하는 AI의 시대를 살고 있다. 매일 해외에서 들려오는 소식들에서 AI가 인간이 할 수 있는 영역을 넘어 여러 사안들을 해결해 나가는 것을 보게 된다. 실제로 많은 사람들이 일상생활에서나 직장에서나 학교에서 생성형 AI 도구들의 편리함을 조금씩 체감하기 시작하고 있다.
그러나 한편으로는 AI가 이렇게 발전해 나가면 언젠가는 나의 일을 통째로 빼앗아 가거나, 나아가서 인간에게 위협적 존재가 되는 것은 아닐까? 이런 우려가 생길 때도 많다.
분명 긍정적인 AI(Good AI)를 목표로 하였지만 왜 이런 두려움(Bad AI)이 생길까?
엄청난 속도로 진화하고 있는 AI를 어떻게 통제하면 인류에게 도움이 되는 Good AI가 되게 할 수 있을까? 이 질문에 대한 답을 정책결정자들에게만 맡기기에는 우리의 삶에 AI가 미칠 영향은 너무나 중요하다.
이 질문에 저자는 이렇게 답하고 있다.
"인간이 진화의 선상에서 사회적 계약에 의해 제도와 규제가 발생한 것 과 같이 AI 기술의 부작용도 우리 모두의 노력으로 상당부분 대처할 수 있다."
AI를 통제하지 못하는 불행한 미래가 오기 전 우리는 충분히 미래를 준비할 수 있다는 희망적인 메시지를 충분한 사례들을 통하여 독자 재현께 드릴 수 있을 것으로 예상 된다.

2. "AI 정책" 우리는 무엇을 보아야 하는가?
AI가 주는 긍정적인 면과 부정적인 면을 가볍게 생각한다면 극단적인 비유로 영화 〈터미네이터〉나 본문에서 언급한 〈데우스 엑스 마키나〉, 〈아티피스 걸〉처럼 우리의 생존에 대한 위협 혹은 AI가 우리를 가식적인 태도로 대하는 상황에 직면할 수도 있다. 우리 누구도 원하지 않는 이런 미래가 정해진 미래가 되지 않으려면, 지금부터라도 우리는 "AI 정책"에 관심을 가져야 한다. AI 정책이 이제는 뉴스거리가 아닌 우리의 관심사 란에 필수적으로 존재해야 하는 카테고리가 되었다.
예를 들면 Part 2에서 첫 번째로 소개된 "나라마다 다른 AI 규제 접근법과 규제 현황"은 현재 출간되어 있는 다양한 AI 관련 도서들에서 보기 어려운 새로운 시각을 통하여, 각 주요국의 서로 다른 규제접근법이 도출된 배경을 설득력 있게 설명하고 있다. 이를 기반으로 다음 챕터에서는 EU뿐만 아니라 미국에서의 활발한 AI 규제방향 논의동향은 물론, 각 전문가들 간에도 존재하는 의견의 차이가 나타나는 배경도 함께 알아볼 수 있다. 생성형 AI의 확산에 따른 저작권 이슈, 개인정보보호 등 좀 더 구체적 제도들에 대해서도 흥미로운 사례와 함께 방향성을 제시한다.


3. AI와 공존은 명확한 제도와 규제를 통해 이루어진다.
저자는 AI의 공존을 위해 다양한 제도와 규제의 사례를 독자 재현께 전 달하며 Bad AI가 되지 않는 Good AI의 방향을 보여준다. AI 규제 방향성은 일부 전문가들에 의해서만 결정되어서는 안된다는 것이 저자의 생각이다. 인류의 앞날을 결정할 수 있는 이 중요한 이슈의 성격을 우리 모두가 이해하고 논의에 참여해야 한다는 것이다. AI와 함께 할 미래가 우려된다면, 이 책은 어두운 밤을 이겨내고 목적지를 안내 하는 등대처럼 여러분들에게 길잡이가 될 것이다.

머리말 / 모두를 위한 인공지능

PART 1 AI규제, 무엇이 이슈이고 왜 중요할까
1. 서언
2. AI확산이 제기하는 제도적 이슈들
가. 생성형 AI, 기술과 시장
나. 모델개발 단계: AI모델 개발 관련 리스크
다. 프로덕트 단계: AI기반의 생성물과 서비스 관련 제도적 이슈
라. 이용단계: AI기술의 오남용 및 악용 관련 이슈
마. AI에 의한 인간노동의 대체 이슈
3. 초 인공지능으로 진화, 위협과 통제
가. 인간의 능력을 초월한 인공지능이 가져올 수 있는 위협
나. OpenAICEO Saga
다. 인공지능 규제방식에 대한 백인백색의 견해 이해하기
Special Section
外傳 아닌 外傳, 생성형 AI와 디지털 시장 경쟁의 미래

PART 2 인공지능 정책, 어떻게 접근해야 할까?
1. 나라마다 다른 AI규제 접근법과 규제현황
가. 유럽: EU AIAct의 탄생 과정과 규제체계
나. 영국의 혁신지향적 접근법
다. AI규제에 대한 미국의 접근법
라. AI규제에 대한 국제적 공조
2. AI시스템에 대한 규제체계 - EU의 사례를 중심으로
3. 기반모델(Foundation Model)에 대한 규제
가. EU의 범용 인공지능(GPAI) Model 규제
나. 미국 바이든 행정명령상의 모델 규제방안
| 마치며 |
4. AI서비스에 대한 기타 중요 규제 이슈
가. 생성형 AI와 저작권 제도
나. 생성형 AI와 프라이버시
| 마치며 |
5. 우리나라 AI발전을 위한 제언
AI산업 국가전략과 우리나라 AI생태계 강화의 중요성
우리나라에 바람직한 AI규제의 접근방향

김형찬 30여년간 우리나라의 ICT 산업의 기업전략, 산업 육성정책 및 합리적 규제정책 분야에서 정부관점과 기업관점을 모두 경험하며 많은 성과를 내어온 전문가이다.
정보통신정책연구원(KISDI)에서 공정경쟁연구실장, 통신방송정책연구실장으로 일하며 정부정책 수립에 기여하였고, 정보통신부 약관법령심사위원회 위원장을 맡아 민간 전문가로서 합리적 정책집행을 위한 자문을 제공하였다.

SK 그룹에 합류한 이후에는 SK 텔레콤 부사장이자 SK 경영경제연구소의 실장으로 기업전략을 연구하고 실행에 옮기면서, 한편 세계 이동통신사업자 연합인 GSMA의 전략그룹 멤버로서 글로벌 시장을 무대로도 오랫동안 활동한 바 있다.
SK 그룹의 인재양성 플랫폼인 mySUNI의 디지털테크 칼리지 설립에 주도적 역할을 하기도 하였다. 이런 다양한 경험들을 통해, 우리나라 경제를 강하게 만드는 데에 필요한 정부와 기업의 역할에 대해서 더 깊이 이해하고 고민하게 되었다.

지금은 우리나라의 디지털 분야 한림원인 '디지털 소사이어티'의 정회원으로서 SK경영경제연구소에서 연구활동을 지속하고 있다. 서울대학교에서 경제학사, 미국 Cornell University에서 경제학 석사, 박사학위를 받았다.