인공지능과 편향(인공지능총서)

인공지능은 왜 편향되는가
데이터 기반의 현대 인공지능은 기획, 설계, 학습, 배포의 전 단계에서 인간의 선택과 사회적 조건에 의해 다양한 편향을 내포한다. 인공지능 편향의 개념과 발생 원리를 기계학습 구조 속에서 설명하고, 단순한 데이터 불균형을 넘어 윤리적·사회적 차원의 구조적 차별이 어떻게 알고리즘을 통해 증폭되는지를 짚는다. 나아가 블랙박스 구조 속 편향 탐지의 어려움, 공정성 기준의 충돌, 의도하지 않은 차별 효과 등 현재 인공지능이 직면한 핵심 문제를 구체적 사례와 함께 제시한다.
인공지능 개발자뿐 아니라 정책 입안자, 일반 사용자 모두가 편향을 인식하고 대응해야 할 이유를 설명하며, 데이터 전처리부터 공정성 기준의 적용, 편향 완화 기술까지 총망라해 AI 윤리 실천의 길을 제시한다. 인간의 편향이 만든 AI, 그 편향을 다룰 책임도 결국 인간에게 있다는 사실을 강조한다.

인공지능에서 편향의 위치

01 인공지능 편향 정책
02 인공지능 편향의 원인
03 보호 속성과 인공지능 공정성
04 인공지능 공정성의 유형
05 공정성 기준들 간 상충
06 인공지능 구성 단계에서의 편향
07 편향 제거가 아닌 완화
08 인공지능 편향 완화 기술
09 정확도-공정성 트레이드오프
10 편향 완화 플랫폼과 인간 판단

김효은 국립한밭대학교 인문교양학부 교수이며 과학철학자, 실험철학자다. 국내 최초로 인공지능 윤리 교과를 개설했고, IEEE(국제전기전자공학자협회) 인공지능 윤리 지침 위원으로 참여했다. 철학과 인공지능 학사, 세인트루이스 소재 워싱턴대학교의 철학?신경과학?심리학 프로그램(PNP program) 인지과학 석사, 이화여자대학교에서 의식 연구로 박사를 마쳤고, 뉴욕대학교와 듀크대학교, 매쿼리대학교에서 객원 학자를 지내면서 분석철학을 전산 방법론과 연계하는 연구를 모색해 왔다. 딥러닝을 이용한 도덕 판단 유형 예측 시스템을 특허 등록(2022)했으며, 가치 개념들의 디지털 구현 및 현실 적용에 관심을 두고 있다. 최근 연구로는 재범 예측 시스템 데이터, MLforKids 등 디지털 도구를 활용한 교육 방법 개발, 생성형 AI 활용 교육 가이드라인 개발 등이 있다. 주요 저서는 『인공지능과 윤리』(2021), 『인지과학 실험실』(2021) 등이다.