XAI와 생명의 골든타임(AI 문고)

AI는 죽음을 예측할 수 있어도, 결국 문을 두드리는 것은 사람이다
누구에게도 말하지 못한 절망을 생성형 AI 챗봇에게 털어놓는 아이들, 도움을 요청할 힘조차 잃고 온라인 익명성 속으로 숨어드는 청년과 노인, 이들의 침묵은 기존 복지 시스템의 '신청주의'만으로는 붙잡기 어렵다. 이 책은 흩어진 디지털 발자국, SNS 텍스트와 이미지, 의료·복지 데이터, 웨어러블 센서의 신체 신호를 자살 위험 탐지의 단서로 읽고, 자살 예방의 현장에서 AI가 어디까지 도움을 줄 수 있고, 어디서 멈춰야 하는지를 묻는다. 이때 핵심은 예측력이 아니라 설명 가능성이다. 아무리 정확한 AI라도 왜 그 사람을 위험하다고 판단했는지 설명하지 못하면 생명을 다루는 현장에서 신뢰받을 수 없다. 이에 LIME과 SHAP 같은 설명 가능한 인공지능(XAI)을 통해 기계의 블랙박스를 열고, 사회복지사와 임상가가 안전 계획을 세울 수 있는 근거를 마련하는 방법을 제시한다. 아동·청소년, 청년, 노년층의 생애주기별 위험 요인, 베르테르 효과와 감정 전염, 디지털 바이오마커, 법적 책임과 프라이버시 문제도 함께 다룬다. AI는 사람을 살리는 결정을 대신하지 않는다. 위험 신호를 먼저 밝혀 줄 뿐이다. 닫힌 방문 앞에서 말을 건네고 책임을 지는 일은 여전히 인간의 몫이다.

AI 자살 예방과 설명 가능한 인공지능(XAI)

01 죽음의 징후와 디지털 발자국
02 마음을 읽는 인공지능
03 위험한 사람: 블랙박스를 여는 XAI
04 머신러닝과 아동·청소년 자살 위험 예측
05 청년층의 정신위기 탐지와 대응 프레임워크
06 사회 의료 데이터와 노년층 자살 위험 예측
07 베르테르 효과와 소셜 네트워크 분석
08 디지털 바이오마커
09 AI 예측 딜레마와 법적 책임
10 실시간 모니터링과 개입 설계

신수민 국립한국교통대학교 사회복지학과 조교수로 재직 중이다. AI를 사용하는 아동청소년 및 청년, 노년층의 정신건강을 AI를 활용해서 예측하고 분석하는 연구자다. 사회복지 분야에서 머신러닝을 활용한 텍스트 분석 및 수요 예측을 연구하며 나눔과 기부 예측까지 다양한 영역에서 인공지능을 접목한 연구들을 선보이고 있다. 교통대 이전에는 유한대학교에서 사회복지전공 조교수로(2020∼2024), 대학에 오기 전에는 삼성글로벌리서치(舊 삼성경제연구소) 사회공헌연구실에서 기업 사회공헌 전략을 기획하는 컨설턴트로(2018∼2020) 일했다. 연세대학교에서 아동가족학과와 사회복지학을 전공하고, 동대학 사회복지대학원에서 석사(노인복지 및 비영리 전공)와 박사학위(정신건강의료복지 및 근로자산업복지 전공)를 받았다. 주요 연구로 "설명가능한 인공지능 알고리즘을 이용한 노인의 자살 생각 예측"(2025)을 비판사회정책 86권에, "Prediction of suicidal ideation in children and adolescents using machine learning and deep learning algorithm: A case study in South Korea where suicide is the leading cause of death"(2023)을 Asian journal of psychiatry, 88권에 게재했다.