AI 위험 구조(AI 문고)

통제해야 할 것은 모델이 아니라 권한과 결합, 그리고 되돌릴 수 없는 변화다
AI의 오답과 편향은 그 자체로 사회적 재난이 되지 않는다. 문제는 불완전한 출력이 조직의 판단으로 받아들여지고, 실제 권한을 얻으며, 다른 시스템과 연결되고, 끝내 제도와 관행으로 굳어지는 과정에서 발생한다. 이 연쇄를 '위험 변환 사슬'로 설명한다. 복잡한 사회적 목적이 대리 지표로 축약되고, 낯선 환경에서도 모델이 확신에 찬 답을 내놓으며, 평가에서 포착하지 못한 불확실성이 남는다. 이 출력이 예산·인사·승인·금융·행정의 집행 권한과 결합하면 '확률적 권한화'가 일어나고, 여러 시스템이 동일한 모델과 데이터에 의존할수록 작은 오류는 동시다발적 실패로 증폭된다. 더 심각한 문제는 사고 이후다. 잘못된 데이터가 다시 학습되고, 인간의 판단 능력이 약화되며, 조직 절차가 AI를 전제로 재편되면 시스템을 고쳐도 피해 구조는 남는다. 이 책은 이를 '사회적 고착'이라 부른다. 따라서 AI 안전의 기준은 정확도만이 아니다. 어디까지 권한을 줄 것인지, 얼마나 느슨하게 연결할 것인지, 언제 멈추고 되돌릴 수 있는지가 중요하다. AI 위험 관리를 모델 성능에서 사회·기술적 구조와 가역성의 문제로 전환해야 하는 이유다.

AI 위험의 구조

01 AI 최적화의 역설
02 AI 데이터의 환상
03 AI 자율성의 위협
04 AI 창발성의 재앙
05 AI 취약성의 전이
06 AI 의존의 함정
07 AI 제도화의 실패
08 AI 시장의 폭주
09 AI 안보화의 딜레마
10 AI 통제권의 회복

유지연 상명대학교 휴먼AI공학전공 교수다. 고려대학교에서 정보공학 박사 학위를 취득하였고 정보통신정책연구원 부연구위원으로 재직하며 공학과 정책을 아우르는 다학제적 융합 역량을 구축하였다. 디지털 기술의 공학적 설계와 사회적 응용 간의 균형점을 도출하는 혁신적인 접근법으로 기술정책 분야의 새로운 패러다임을 제시하였다는 평가를 받는다.
정부출연연구기관과 학계를 거치며 26년간 국가 미래전략 시스템 기획 및 디지털 하이브리드 위험 관리 이론을 체계화하였다. 거시적 관점의 위험 관리 능력을 바탕으로 탁월한 전략 수립 기획력을 입증하며 공학적 해법을 정책으로 연결하는 과정에 공헌하여 왔다. 최근에는 인공지능 시스템의 신뢰성, 소프트웨어 공급망 보안, 소버린 인공지능 분야로 엔지니어링 프레임워크 연구를 확장하며 최신 기술 안보 현안에 대한 실무적 전문성을 확보하였다.
한국인터넷윤리학회장을 역임하였고 현재 청와대 국가안보실을 비롯한 여러 정부 부처의 정책자문위원 직무를 수행하며 국가 안보 및 기술 정책 현장에 학문적 역량을 직접적으로 투사하고 있다. 주요 저서로 《20개의 핵심 개념으로 읽는 디지털 기술 사회》(2022), 《디지털 사회 기본 가치》(2023), 《소버린AI》(2025) 등이 있고 국내외 학술지와 매체에 100편 이상의 논문과 저술을 발표했다.