AI와 프라이버시(인공지능 총서)

기술을 이해하면 프라이버시 문제가 보인다
생성형 AI와 대규모 언어 모델(LLM)이 일으키는 프라이버시 침해 문제를 다룬다. 생성형 AI는 사용자 질문에 맞춰 다양한 콘텐츠를 생성하는 기술로 무차별적으로 수집된 데이터에서 프라이버시 침해가 발생할 수 있다는 우려가 커지고 있다. 이 책은 생성형 AI의 특징에 따른 프라이버시 침해의 가능성을 명확히 제시하며, 개인정보 보호의 중요성을 강조한다.
기존의 예측형 AI와 달리 생성형 AI는 명확한 목적 없이 방대한 데이터를 수집해 이를 학습한다. 이 과정에서 사용자의 민감 정보가 무단으로 포함될 수 있으며, 훈련용 데이터로 쓰인 정보가 제대로 필터링되지 않을 수 있다. 또한 생성형 AI는 자칫 개인의 개인정보를 부주의하게 생성하거나 유출할 위험도 존재한다. 이 책은 이러한 문제를 해결하기 위한 방안을 제시하며, 유럽연합의 일반개인정보보호법(GDPR)과 한국의 개인정보보호법을 중심으로 프라이버시 보호를 위한 원칙을 논의한다. AI 개발자가 직면한 윤리적 딜레마와 법적 갈등을 다루며, 생성형 AI의 데이터를 수집하고 처리하는 방식에서 발생하는 법적 문제들을 해결할 방법을 모색한다. 생성형 AI의 발전과 빠른 확산에 따라, 기술적 발전에 대한 충분한 이해와 법적 제재가 뒤따라야 한다.

AI와 프라이버시

01 AI의 기원과 진화
02 AI의 유형
03 생성형 AI 개론
04 생성형 AI가 제기하는 문제들
05 개인정보와 프라이버시의 이해
06 생성형 AI와 프라이버시
07 생성형 AI와 프라이버시의 딜레마
08 AI 법규와 개발 원칙들
09 생성형 AI와 프라이버시의 균형 잡기
10 슬기로운 생성형 AI 사용법

김상현 캐나다에서 정보공개 및 프라이버시 전문가로 일하고 있다. 토론토대와 요크대에서 개인정보보호와 프라이버시 법규, 사이버 보안을 공부했다. 캐나다 온타리오주 정부와 앨버타주 정부, 브리티시컬럼비아(BC)의 의료서비스 기관 FNHA, 밴쿠버 아일랜드의 수도권청(Capital Regional District) 등을 거쳐 지금은 캘리언그룹(Calian Group)의 프라이버시 관리자로 일하고 있다. 저서로 『디지털의 흔적을 찾아서』(방송통신위원회, 2020), 『유럽연합의 개인정보보호법, GDPR』(커뮤니케이션북스, 2018), 『디지털 프라이버시』(커뮤니케이션북스, 2018), 『인터넷의 거품을 걷어라』(미래M&B, 2000)가 있고, 번역서로는 『통계의 함정』(2024), 『해커의 심리』(2024), 『어둠 속의 추적자들』(2023), 『공익을 위한 데이터』(2023), 『인류의 종말은 사이버로부터 온다』(2022), 『프라이버시 중심 디자인은 어떻게 하는가』(2021), 『마크 저커버그의 배신』(2020), 『에브리데이 크립토그래피 2/e』(2019), 『보이지 않게, 아무도 몰래, 흔적도 없이』(2017), 『보안의 미학』(2015), 『똑똑한 정보 밥상』(2012), 『불편한 인터넷』(2012), 『디지털 휴머니즘』(2011) 등이 있다.