생성형 AI 시대의 금융소비자 보호

생성형 AI가 금융 산업 전반에 빠르게 스며들고 있다. 신용평가에서 맞춤형 상품 추천까지, 알고리즘은 이제 금융기관 의사결정의 핵심으로 자리 잡았다. 그러나 이 책은 묻는다. 방대한 데이터를 학습한 AI가 내린 결정은 과연 공정한가? 편향된 데이터로 훈련된 알고리즘이 금융소비자의 대출 조건과 서비스 접근성을 좌우한다면, 그것은 첨단 기술의 탈을 쓴 차별이 아닌가?

이 책은 이러한 질문을 법학적 언어로 정면에서 파고든다. 알고리즘 차별의 개념과 적용 범위를 어떻게 정의할 것인지, 개인정보보호 법익과 기술 활용 사이의 균형을 어떻게 설계할 것인지, 그리고 자동화된 의사결정 앞에 선 소비자가 어떤 권리를 가져야 하는지를 치밀하게 검토한다.

특히 주목할 만한 것은 알고리즘이 산출한 거래조건과 전통적 방식으로 산정한 거래조건을 나란히 보여주는 '금융조건 비교 제시 방식'이라는 실용적 제안이다. 이는 금융소비자 스스로 차별 여부를 간접적으로 가늠할 수 있게 함으로써 금융 현장에서 작동 가능한 현실적 해법을 제시한다는 점에서 돋보인다. 나아가 설명 가능한 AI의 도입과 소비자의 설명 요구권이 결합될 때 알고리즘의 공정성은 선언이 아닌 제도로 담보될 수 있음을 강조한다.

저자는 개인의 권리구제만으로는 알고리즘 차별 문제를 해소하는 데 구조적 한계가 있음을 인정하면서, 금융위원회가 사후적 분쟁조정자를 넘어 시장의 차별 요인을 선제적으로 제거하는 능동적 규제자로 거듭나야 한다고 역설한다. 알고리즘 감사의 도입, 분쟁조정제도의 실효성 강화, 영국의 금융 옴부즈만 제도를 참조한 편면적 구속력 부여 등 구체적이고 다층적인 제도 개선안은 이 책을 단순한 이론서가 아닌 정책 설계의 실질적 참고서로 만든다.

머리말
약어표

제1장 서론

제2장 금융에서의 생성형 AI 활용 및 정책 현황
1. 생성형 AI의 개념
2. 금융에서의 생성형 AI 활용 현황
가. 주요 적용 영역
1) 대출 심사 및 신용평가
2) 리스크 관리 및 부도 예측
3) 고객확인절차 및 사기 탐지
4) 고객 서비스 혁신
5) 차세대 기술: 에이전틱 AI
나. 해외에서의 활용 현황
1) 싱가포르 개발은행의 Digibank
2) OCBC Bank
3) Bank of America
4) Cross River Bank
5) 홍콩 상하이은행
6) Ellie Mae Inc.
7) 해빗팩토리
다. 국내에서의 활용 현황
1) 우리은행
2) 하나은행
3) 기업은행
4) 검토
3. 생성형 AI 관련 정책 현황
가. AI 기본법의 제정
나. 정부의 AI 금융 활성화 정책
4. 소결

제3장 금융거래에서의 알고리즘 차별과 관련한 문제
1. 금융거래에서의 알고리즘 편향
가. 알고리즘 편향
1) 개념
2) 알고리즘 편향과 금융거래에서의 차별
(1) 금융거래에서의 차별
(2) 금융거래에서의 알고리즘 편향의 위험성
3) 알고리즘 편향과 신용도에 따른 차별
4) 알고리즘 편향과 경쟁제한
나. 알고리즘 차별 사례
1) 제1유형: 신한은행 사례
2) 제2유형: 애플카드 사례
3) 제3유형: 네이버 사례
2. 알고리즘 편향에 대한 규제 필요성
가. 개요
나. 알고리즘 편향이 유발하는 문제
1) 사회적 불평등의 심화
2) 편향적 의사결정
3) 결과책임의 모호성
다. 알고리즘 편향성 검증의 구조적 한계
1) 편향성 판단의 주관성과 복잡성
2) AI 환경에서 차별 관련 규제의 구조적 한계
라. 거래 단계별 알고리즘 규제의 필요성
3. 금융 분야 차별금지 규제의 현황과 문제점
가. 법제 간 규율 범위의 차이
나. 금융소비자보호법상 차별 개념의 모호성
다. 영향평가 제도의 한계
1) 영향평가의 개념과 유형
2) 실효성 확보 수단의 미비
4. 데이터 활용의 문제점
가. 정보 주체의 권리
나. 개인정보보호 원칙과의 충돌
다. 금융 분야에서의 특수 문제
1) 프로파일링에 대한 입법적 공백
2) 개인정보 활용의 문제
라. 안전성 규제의 문제
5. 설명을 요구할 권리의 문제점
가. 알고리즘의 불투명성
나. 자동화 평가에 대한 설명요구권
1) 설명요구권 관련 규제 현황
2) 적용범위의 불명확성
다. 설명 가능한 AI
1) 설명 가능한 AI의 필요성
2) 금융에서의 적용 현황
3) 설명 가능한 AI의 한계
6. 불법행위 책임의 문제점
가. 전통적 불법행위 책임의 한계
나. 제조물책임의 대안적 접근
다. 금융소비자 입증책임의 문제
7. 소결

제4장 주요국의 알고리즘 차별 규제 현황
1. 미국
가. 규제 개관
1) 국가 AI 계획법(National Artificial Intelligence Initiative Act of 2020)
2) 트럼프 행정부의 AI 관련 행정명령(EO 14179)
3) 미국 AI 행동계획(America's AI Action Plan)
4) 연방 기관의 AI 사용 및 조달에 관한 정책
나. 알고리즘 차별규제의 제도적 기반 마련
1) 2019년 알고리즘 책임 법안
2) 2022년 알고리즘 책임 법안
다. 금융소비자보호 법리의 확장 적용
1) 재무부
2) 소비자금융보호국
3) 주별 규제 현황
(1) 캘리포니아
(2) 콜로라도
(3) 뉴욕
2. EU 160
가. 규제 개관
나. 차별금지 원칙의 법제화
다. 법제 간 연계를 통한 금융소비자보호
1) 금융 AI 활용에의 「EU AI 법」 적용
(1) 기존 금융 규제와 AI 법의 조화
(2) 디지털운영회복력법
(3) 금융데이터 접근 규정안
2) EU AI 책임 지침안
3) EU 제조물 책임지침
3. 일본
가. 규제 개관
나. AI 촉진법상 규제
다. 혁신과 규제의 균형
4. 영국
가. 규제 개관
나. 원칙 기반 방식의 차별 규제
1) AI 백서
2) 공공부문 영향평가
3) 유연하면서도 예측 가능한 규제 환경 조성
다. 금융소비자보호 기준의 강화
1) 소비자보호원칙 도입
2) 알고리즘 검증 및 모니터링 의무
5. 캐나다
가. 규제 개관
나. 연방 차원의 법제 정비 추진
다. 알고리즘 영향평가를 통한 차별 규제
1) 자동화된 의사결정에 관한 지침
2) 한계
라. 권고 기반의 책임 있는 AI 활용 체계 구축
1) 금융 AI 활용을 위한 EDGE 원칙
2) 금융기관의 AI 위험관리 가이드라인
6. 소결

제5장 알고리즘 차별 규제 개선 방안
1. 서설
2. 사전적 금융소비자보호 개선 방안
가. 차별금지 기준 정비
1) 법제 간 차별금지 기준 정비
2) 차별금지 적용 범위의 확대
나. 규제 간 상호작용을 위한 보충규범의 마련
다. 정보 주체로서의 금융소비자보호
1) 정보 주체의 실질적 권리 보장
2) 데이터 편향 식별을 통한 공정성 확보
3) 안전성 확보 의무 적용 범위의 확대
4) 금융 안전성 확보를 위한 전담 기관 신설
라. 영향평가 제도의 실효성 강화
1) 주요국의 영향평가 제도에 대한 검토
2) 자율 평가와 독립 검증 체계 구축
3. 알고리즘 기반 거래 관련 개선 방안
가. 금융소비자 선택권의 실질적 보장
1) 금융 조건 비교 제시 의무
2) 자동화 결정 재검토 요구권 부여
나. 설명을 요구할 권리
1) 설명의 내용 및 범위 구체화
2) 설명 가능한 AI를 통한 기술적 보완
(1) 편향성 검증 도구로서의 XAI
(2) 평가 기준 수립과 지속적 개선 체계
다. 인간에 의한 감독 의무화
라. 규제 당국의 최종 조정자로서의 역할 확대
4. 사후적 금융소비자보호 개선 방안
가. 현행법상 한계
나. 알고리즘 감사의 의무화
1) 개념
2) 알고리즘 감사의 종류
3) 알고리즘 감사의 구체적 내용
다. 피해 구제의 실질적 보장
1) 금융소비자보호 수단의 강화
2) 입증책임의 전환
3) 분쟁조정 제도의 활용
4) 사후책임에 대한 특례 규정 마련
라. 금융포용과의 연계
1) 금융포용
2) 알고리즘 차별 규제를 통한 금융포용 기반 마련
3) 제도 기반 마련을 위한 데이터 다양성 확보
4) 샌드박스를 활용한 맞춤형 금융포용 정책 구현
5. 소결

제6장 결론

표 목차
[표 1] AI의 발전 과정
[표 2] AI 에이전트와 에이전틱 AI의 비교
[표 3] 해외 은행의 AI 활용 사례
[표 4] 국내 은행의 AI 활용 사례
[표 5] 고영향 AI 사업자책무 가이드라인
[표 6] 금융 분야 AI 관련 규제 현황
[표 7] 금융권 AI 이원(Two-track) 활용 체계
[표 8] 대출에서의 가격차별 유형
[표 9] 금융거래에서의 알고리즘 차별 유형
[표 10] 위험평가와 영향평가의 차이
[표 11] AI 윤리영향평가 측정문항 구성(안)
[표 12] 개인정보보호법과 EU GDPR의 비교
[표 13] 「EU AI 법」의 위험기반 규제
[표 14] 정보 주체의 권리 보장 관련 문제점과 개선 방안
[표 15] 영향평가의 구체적 내용
[표 16] 설명 사항의 구체적 내용
[표 17] 알고리즘 감사의 목적
[표 18] 알고리즘 감사의 종류
[표 19] 금융포용의 기준
[표 20] 알고리즘 차별 규제 개선 방안

정다워 법학박사, 한국산업은행 근무