왜 지금 AI를 감사해야 하는가

추천사
시작하며 ─ AI 거버넌스와 감사의 시대

제1장 AI의 부상과 감사 환경의 변화
1.1. 감사 환경의 변화와 감사인의 역할 재정의
1.2. 산업별 AI 도입 현황과 감사 시사점
참고문헌

제2장 글로벌 AI 규제 및 표준 트렌드
2.1. EU AI Act: 위험 기반 접근 방식
2.2. NIST AI RMF 및 ISO/IEC 42001(AIMS)
2.3. 중국: 국가 주도형 알고리즘 통제
2.4. 한국ㆍ일본ㆍ싱가포르 등 기타 국가: 혁신과 신뢰의 균형
2.5. 종합 비교와 AI 감사 관점의 함의
참고문헌

제3장 AI 생애주기별 통합 리스크 관리 프레임워크
3.1. 선행연구 검토
3.2. AI 감사의 세 가지 위험과 생애주기 접근
3.3. 기획ㆍ설계 ─ AI 거버넌스와 규제 준수
3.4. 데이터 수집ㆍ전처리 ─ 프라이버시와 무결성
3.5. 모델 개발ㆍ훈련 ─ 알고리즘 투명성
3.6. 검증ㆍ테스트 ─ 신뢰성 평가와 레드팀
3.7. 배포ㆍ운영 ─ 접점 보안과 OWASP LLM
3.8. 모니터링ㆍ폐기 ─ 사후 책임과 지속적 감사
3.9. 결론 ─ 세 위험의 통합과 CWEㆍCompliance의 조화

제4장 AI 거버넌스 체계 구축
4.1. IT 거버넌스를 넘어선 AI 거버넌스의 이해
4.2. 조직 내 AI 윤리위원회 및 의사결정 체계
4.3. 책임성(Accountability) 모델과 거버넌스 프레임워크
4.4. 감사인을 위한 실무 지침과 역량 강화 전략
참고문헌

제5장 AI 알고리즘의 편향성과 공정성
5.1. 왜 AI 편향성이 감사의 핵심 이슈인가
5.2. AI 편향성의 발생 원인과 유형
5.3. 실제 사례로 보는 AI 편향성
5.4. 공정성 측도(Fairness Metrics): 감사의 기준
5.5. 편향성 완화 기법(Bias Mitigation Techniques)
5.6. 편향성 탐지 및 완화 도구
5.7. 국내외 규제 및 표준 프레임워크
5.8. AI 편향성 감사 실무 방법론
5.9. AI 편향성 감사 체크리스트
5.10. 편향성 감사 결과 보고
5.11. 사례 연구: 금융 대출 AI의 편향성 감사
참고문헌

제6장 설명가능한 AI(XAI) 감사 기법
6.1. 왜 XAI인가 ─ 설명을 뽑아내는 일의 어려움
6.2. XAI 방법론의 지도 ─ 무엇이 어떻게 다른가
6.3. 상황별 추천 ─ 어떤 도구를, 언제, 무엇을 고려하며
6.4. XAI 도구의 선택과 핵심 리스크 통제
6.5. 결론 ─ 기법은 증거를 만들 뿐, 판정은 감사인의 몫

제7장 데이터 품질 및 프라이버시 보호
7.1. 학습 데이터의 무결성 및 적정성 검증 프로세스
7.2. AI 개인정보 보호 기술: 차분 프라이버시와 동형 암호
참고문헌

제8장 머신러닝 및 딥러닝 아키텍처 검토
8.1. 모델 훈련 프로세스의 투명성 및 재현성 감사
8.2. 모델의 견고성(Robustness) 및 드리프트(Drift) 모니터링
참고문헌

제9장 클라우드 기반 AI 서비스(SaaS/PaaS) 감사
9.1. 인프라 보안 및 형상관리
9.2. 제3자 제공 AI 서비스에 대한 통제권 확인
참고문헌

제10장 GenAI(생성형 AI)와 LLM 감사
10.1. 대규모 언어 모델의 특수 리스크
10.2. 프롬프트 인젝션 탐지 및 거버넌스
10.3. GenAI 핵심 리스크 통제와 실무 체크리스트
10.4. GenAI 감사의 지향점과 제언
참고문헌

부록
부록 1 ─ 통제 기술서(RCM) 활용 가이드
부록 2 ─ AI 주요 리스크 카탈로그

김영일 이 책은 연구위원들이 글로벌 규제와 최신 기술 트렌드를 분석하고, 치열한 토론을 거쳐 한국 비즈니스 환경에 맞는 실질적인 AI 감사 프레임워크를 도출해 낸 공동 학습의 결실이다.