LLM 활용과 국방(AI 문고)

강한 AI보다 더 중요한 것은 통제다
인공지능은 이제 국방의 주변 기술이 아니라 핵심 변수로 진입하고 있다. 특히 거대 언어 모델(LLM)이 단순한 대화형 도구를 넘어 스스로 계획하고 실행하는 에이전트로 진화하면서, 인간과 AI의 역할은 근본적으로 재편되고 있다. 코드 작성에서 검토로, 실행에서 통제로 중심이 이동하는 변화는 국방 환경에서 더욱 무겁게 작동한다. 이러한 상황에서 LLM이 실제 군 환경에 적용될 때 마주하는 현실적 문제와 구조적 한계를 정면으로 다룬다. 저자들은 해군 본부에서의 실무 경험을 바탕으로 기술의 성능이 아니라 '통제'와 '책임'이 왜 더 중요한 문제로 떠오르는지를 분석하고, 군 조직 특유의 보안, 절차, 책임 구조 속에서 AI가 어떻게 제한되고 검증되는지를 구체적으로 보여 준다.
높은 성능의 모델보다 중요한 것은 데이터의 출처, 시스템의 신뢰성, 그리고 오작동에 대한 책임 구조다. 결국 국방은 AI의 가능성을 시험하는 공간이 아니라, 그 한계를 가장 엄격하게 드러내는 환경이다. 이 책은 기술 도입을 넘어 '신뢰 가능한 AI'를 정의하는 문제로 시선을 확장하며, 고위험 의사결정 환경에서 우리가 무엇을 기준으로 AI를 받아들여야 하는지를 묻는다.

국방 환경의 LLM 활용과 한계

01 국방과 LLM
02 군사 의사 결정 지원 리스크
03 할루시네이션 리스크
04 프롬프트 인젝션 공격
05 폐쇄망 환경의 데이터 보안 위협
06 모델 편향성과 전략 왜곡
07 전장 환경에서의 경량화와 실시간 추론 전략
08 폐쇄망 기반 LLM 운용
09 전술적 지원을 위한 신뢰성 확보
10 국방 AI 거버넌스와 책임성

이성호 고려대학교 화공생명공학과에 재학하며, 공학적 문제 해결 역량을 기반으로 인공지능 기술을 독자적으로 탐구해 온 AI 연구개발자다. 전공과는 별도로 머신러닝 및 대규모 언어모델(LLM)을 심층적으로 학습하였으며, ONNX 기반 모델 변환과 TensorRT 엔진 최적화 등 추론 성능 고도화 영역에서 구현 경험을 보유하고 있다. 공동 저자들과 함께 "국방 분야에서의 LLM 활용 문제점과 해결 전략"(2024)을 《국방과 보안》에 투고하였고, 2024 KADEX 미래육군 IIFA 포럼에서 발표하여 육군미래혁신연구단장상을 공동 수상하였다. 또한 AGI 시대에 대비한 기술적·사회적 대응 전략에 관심을 두고 있으며, 고도화된 지능 시스템 환경에서 인간과 AI의 역할 재정의와 안전성·책임성 문제를 탐구하고 있다.