XAI와 공공 인사관리(AI 문고)

XAI는 공공 인사의 판단과 책임을 다시 보이게 한다
AI는 채용과 배치, 평가와 보상, 이직 예측까지 인사관리의 여러 단계에 들어오고 있다. 특히 공공 조직에서는 사람이 아니라 기계가 판단하면 더 일관되고 공정할 것이라는 기대가 크다. 그러나 바로 그 기대가 새로운 위험이 될 수 있다고 지적한다. 공무원 인사는 단순한 조직 내부의 문제가 아니라 공적 권한이 누구에게 주어지는가의 문제이기 때문이다. 예측이 아무리 정확해도 왜 그런 결과가 나왔는지 알 수 없다면 당사자는 이의를 제기하기 어렵고, 담당자 역시 판단의 책임을 확인하기 어렵다. 이 책은 설명 가능한 인공지능(XAI)과 SHAP의 원리를 바탕으로 AI가 개인을 어떻게 판단하고 그 판단의 근거를 어떻게 드러낼 수 있는지 살핀다. 채용, 이직, 급여 평가 사례를 통해 설명 가능성이 어디까지 확보되고 무엇이 여전히 가려져 있는지도 검토한다. 핵심은 AI를 더 신뢰하게 만드는 데 있지 않다. 판단의 근거를 확인하고 사람이 다시 검토하며 책임질 수 있도록 만드는 데 있다. 데이터가 현실을 제대로 대표하는지, 사람이 실질적인 통제권을 갖는지, 공공의 가치와 거버넌스에 맞게 설계되었는지가 공공 인사 AI의 기준이 되어야 한다.

기계가 개인과 공공을 판단한다

01 인사관리에서 AI는 특별하지 않다
02 공공 인사관리는 무엇이 다른가
03 성능이 전부가 아니다
04 공공 인사관리에서 XAI가 필요한 이유
05 XAI란 무엇인가
06 SHAP로 이해하는 설명 가능성
07 다양한 기술의 결합과 확장
08 현장에서의 적용과 한계
09 책임 있는 적용을 위한 원칙
10 설명 가능한 공공 인사관리 설계

조규철 연세대학교에서 석사학위를 취득하고 얼마 전 박사과정 코스웍을 마쳤다. 연세대학교 미래정부연구센터에서 AI 정부, 과학기술정책을 연구하고 있으며 머신러닝과 더불어 다양한 모델을 사회과학연구에 이식하는 시도를 하고 있다. "XAI의 공공 인적자원관리 적용 연구: 설명 가능 머신러닝을 통한 개별공무원의 이직의도 예측과 설명을 중심으로(2025)" 외에도 "머신러닝을 활용한 정치 양극화 영향요인 분석 연구: 정서적 양극화를 중심으로(2025)", "인공지능의 전자정부 도입은 정부신뢰를 향상시킬 수 있는가?: 전자정부의 정부신뢰 제고과정에서 지능형, 무인화 기술의 적용에 대한 기대의 조절효과 탐색(2024)" 등과 같은 논문을 썼다.
낮에는 정부와 제도, 사람과 사회를 연구하고 해가 지면 코드가 뱉어낸 오류와 출력 메시지와 대화를 나누는, 제법 즐거운 연구 생활을 이어가고 있다.