AI와 알고리즘적 구제(AI 문고)

AI가 내린 결정, 뒤집을 수 있는가
보험이 거절되고, 대출이 막히고, 채용에서 탈락한다. 이유는 단 한 줄, "종합 심사 결과 부적합"이다. 점점 더 많은 삶의 결정이 AI에 의해 내려지지만, 그 결과를 바꿀 방법은 좀처럼 주어지지 않는다. 이 막막함에서 출발해 AI가 왜 그런 판단을 내렸는가를 묻는 데서 멈추지 않고 어떻게 하면 그 결과를 바꿀 수 있는가를 묻는다. 이 책이 제시하는 핵심 개념은 '알고리즘적 구제'다. 이는 설명을 넘어 행동 가능한 대안을 제시하는 접근으로, 당사자가 스스로 다음 선택을 할 수 있게 돕는 기술이다. 반사실적 설명과 DiCE 알고리즘을 통해 "무엇을 바꾸면 결과가 달라지는가"를 구체적으로 제시하며, 보험·의료·소상공인 데이터에 적용된 실제 사례를 통해 그 가능성을 입증한다. 동시에 알고리즘적 구제가 만능 해법이 아님을 분명히 한다. 불완전한 인과 이해, 구조적 불평등의 문제를 함께 짚으며 기술과 사회의 경계를 성찰한다. AI의 판정 앞에서 우리는 여전히 선택할 수 있는가. 그리고 그 선택을 가능하게 하는 것은 무엇인가.

AI는 왜 나를 그렇게 평가했는가?

01 리스크 관리의 패러다임 전환
02 블랙박스 AI와 설명 책임의 위기
03 해석 가능한 인공지능의 비즈니스 가치
04 알고리즘적 구제
05 반사실적 설명과 가상 시나리오의 논리
06 건강 리스크 관리 실증 사례
07 맞춤형 상담 가이드의 자동화 구현
08 도메인 특화 LLM: 전문가 수준 상담의 조건
09 알고리즘적 구제의 제도적 조건
10 알고리즘적 구제의 미래와 비즈니스 확장성

양문일 산업정책연구원 연구교수다. 한국외국어대학교 통계학과를 졸업하고, 서울과학종합대학원대학교에서 AI·빅데이터 전공으로 경영학 석사 및 박사학위를 받았다. 알고리즘적 구제(algorithmic recourse), 반사실적 설명, AI 거버넌스, 리스크 관리, 비즈니스 XAI를 핵심 연구 주제로 삼아, 보험·금융·소상공인 도메인에서 설명 가능한 AI와 대형언어모형을 결합한 실증 연구를 수행하고 있다. 주요 논문으로 "해석 가능한 건강 리스크 관리 방법론: 보험산업에서 반사실적 설명과 온프레미스 의료 LLM의 통합을 중심으로"(《리스크관리연구》, 2025), "From prediction to action: a framework for business closure analysis and LLM-based consulting strategy generation"(《Journal of the Korean Statistical Society》, 2025) 등이 있다.