인공지능과 언어 윤리(인공지능총서)

인간 언어의 창조성과 기계 언어의 경계
인공지능이 인간의 언어 창조성을 모방할 수 있을까? 《인공지능과 언어 윤리》는 인간 고유의 언어 능력과 대규모 데이터 학습을 기반으로 한 인공지능의 언어 생성 능력 사이의 경계를 탐구한다. 사례를 통해 인공지능이 학습 데이터로부터 비윤리적 언어를 재생산하는 과정을 비판적으로 검토하며, 인공지능의 언어 사용이 윤리적 문제에서 자유롭지 않음을 보여 준다. 나아가 욕설, 혐오, 차별 등 비윤리적 표현이 사회적 맥락에 따라 어떻게 변형되고 확산되는지를 분석하며, 윤리적 언어 사용의 기준과 교육적 접근의 필요성을 제기한다.

언어 변화와 인공지능의 윤리적 과제
언어는 끊임없이 변화하며, 특히 혐오 표현은 사회 변화와 함께 빠르게 변한다. 이 책은 인공지능이 이러한 언어 변화를 반영하지 못할 때 발생하는 문제를 다루며, 시간에 따른 언어 변동성과 사회 문화적 맥락을 고려한 '언어 윤리성 평가'의 필요성을 강조한다.

한국어 맥락에서 본 비윤리적 언어
이 책은 한국어의 문화적 맥락에서 비윤리적 표현이 갖는 특성과 식별의 어려움을 다룬다. 은유, 농담, 지역적 표현 등 고맥락적 언어 사용이 인공지능 탐지 모델에서 오분류되는 이유를 사례 중심으로 설명하며, 한국어 감수성을 반영한 언어 자원 구축의 방향을 제시한다.

언어학자의 시선으로 본 인공지능의 미래
총 10장으로 구성되어 언어학, 언어공학, 교육학의 관점에서 인공지능 언어 윤리를 다각도로 논의한다. 인공지능이 일상 속 언어 행위의 주체로 자리 잡은 지금, 이 책은 인간과 인공지능이 공존하는 시대에 더 윤리적이고 포용적인 언어문화를 향한 길을 제시한다.

인공지능 시대의 언어

01 인공지능 시대에 언어 윤리성은 왜 중요한가?
02 비윤리적 표현이란 무엇인가?
03 비윤리적 표현의 유형
04 비윤리적 표현과 독자 인공지능
05 비윤리적 표현의 맥락 의존성과 주관성
06 비윤리적 표현의 단위와 식별의 쟁점
07 메신저의 비윤리적 표현
08 방송의 비윤리적 표현
09 비윤리적 표현과 사전
10 비윤리적 표현을 어떻게 교육할까?

남길임 연세대학교 국어국문학과 교수다. 동 대학교에서 학부를 마치고 석사와 박사 학위를 받았다. 《연세한국어사전》(1998), 《외국인을 위한 한국어학습사전》(2006), 네이버 한국어 일상표현 사전(2020) 등 사전 편찬과 '부적절 표현 탐지 및 교정을 위한 한국어 형태소 분석·처리 서비스 개발 등 말뭉치 구축 및 연구', 'LLMs, 교육용 말뭉치, 인간 교육 전문가의 협업을 통한 어휘 교육 방안 연구' 등을 수행 중이다. 인공지능 시대 인간 언어의 유창성을 밝히는 것, 설명 가능성과 재현 가능성을 위한 말뭉치언어학 연구에 관심이 있다. 현재 국어심의회 위원, 아시아사전학회 회장, 한국어의미학회 편집위원장 등을 맡고 있다. 대표 논저로는 "이론으로서의 말뭉치언어학에 대한 연구 현황과 쟁점"(2014), 《현대신어연구》(2022) 등이 있다.