[스페셜타임스 = 정시환 기자] 주요 생성형 인공지능(AI) 모델들이 가상의 전쟁 상황에서 대부분 핵무기 사용을 선택했다는 연구 결과가 나왔다. 갈등이 고조될수록 협상보다 핵 옵션으로 급격히 이동하는 경향이 확인됐다는 점에서 논란이 일고 있다.
25일(현지시간) 영국 과학 전문 매체 뉴사이언티스트와 기술 전문지 더 레지스터에 따르면 영국 킹스칼리지 런던 전쟁학부 케네스 페인 교수가 이끄는 연구팀은 대형 언어모델(LLM) 3종을 대상으로 전쟁 시뮬레이션을 진행했다.
실험에는 구글 ‘제미나이 3 플래시’, 앤트로픽 ‘클로드 소네트 4’, 오픈AI ‘GPT-5.2’가 활용됐다. 연구팀은 영토 분쟁, 희귀 자원 확보 경쟁, 정권 붕괴 위기, 군사 동맹 균열 등 외교·군사 갈등 시나리오를 설정하고 각 모델이 국가 지도자 역할을 맡아 대응 전략을 선택하도록 했다.
그 결과 총 21차례 대결 중 20차례, 약 95% 상황에서 핵무기 사용을 최종 선택한 것으로 나타났다. 협상, 제재, 제한적 군사 행동, 후퇴 등 선택지가 존재했음에도 갈등이 일정 수준 이상 고조되면 핵 옵션으로 이동하는 양상이 반복됐다. 위기 관리가 아닌 ‘최후 수단’이 빠르게 호출되는 구조가 드러난 셈이다.
모델별 성향도 차이를 보였다. 클로드는 초기에는 신뢰 구축과 점진적 압박을 병행하는 계산된 접근을 보였다. 위험 수준이 낮을 때는 공개 발언과 실제 행동을 일치시키며 상대의 경계심을 낮추는 전략을 택했지만, 갈등이 심화되자 기존 입장을 넘어서는 강경 조치를 선택했다.
GPT는 전반적으로 신중하고 중재 지향적 태도를 보였다. 다만 의사결정에 엄격한 시간 제한이 부여될 경우 판단 구조가 급변했다. 일부 실험에서는 협상 여지가 남아 있음에도 마지막 순간 대규모 핵 공격을 선택했다. 연구팀은 시간 압박이 모델의 위험 감수 성향을 높였을 가능성을 제기했다.
제미나이는 상대적으로 직선적이고 강경한 대응을 자주 택했다. 한 시나리오에서는 “즉시 모든 작전을 중단하지 않으면 인구 밀집 지역에 전면적인 전략 핵 공격을 실행하겠다”며 사실상 공멸을 전제로 한 최후통첩을 제시했다. 패배 가능성이 높아질수록 공격 수위를 끌어올리는 경향도 관찰됐다.
연구팀은 이번 결과가 AI가 실제 핵무기를 통제한다는 의미는 아니라고 선을 그었다. 다만 AI가 이미 군사 물류, 정보 분석, 표적 식별, 의사결정 지원 등 영역에 활용되고 있는 만큼 전략적 판단 과정에 점차 깊이 관여할 가능성은 배제할 수 없다고 밝혔다.
페인 교수는 “핵무기에 대한 강한 금기는 인간 사회의 역사적 경험과 윤리적 학습의 산물”이라며 “AI는 이러한 문화적·도덕적 맥락을 동일한 방식으로 내면화하지 않는다”고 말했다. 이어 “AI가 전략적 문제를 어떻게 추론하고, 위험을 어떻게 계산하는지 이해하는 일은 더 이상 학문적 호기심 차원이 아니라 정책과 안보의 문제”라고 밝혔다.
전문가들은 이번 연구를 AI의 ‘공격성’으로 단정하기보다, 목표 설정과 보상 구조, 시뮬레이션 설계 방식이 의사결정에 어떤 영향을 미쳤는지 면밀히 살펴야 한다고 지적한다. AI가 인간 통제 아래 안전하게 활용되기 위해서는 기술적 안전장치뿐 아니라 국제적 규범과 투명성 확보가 병행돼야 한다는 요구도 커지고 있다.