국제 · 11월 15일

AI는 핵전쟁을 막을까, 오판을 더 빠르게 만들까?

Chatham House와 SIPRI의 분석을 종합하면, AI가 사람의 검토 시간을 늘리면 핵 위험을 줄일 수 있지만 과신과 빠른 대응을 부추기면 오판을 가속할 수 있음
SIPRI와 Arms Control Association은 사람이 최종 발사를 승인하더라도 AI가 경보·정보 분석·대응안 작성을 지배하면 실질적인 통제가 약해질 수 있다고 경고함
War on the Rocks 기고에서 Erica D. Lonergan은 미·중의 사고 통보와 위기 소통이 도움이 될 수 있지만, 기술 검증이나 군비 제한까지 보장하는 합의는 아니라고 분석함
SIPRI는 북한처럼 작고 덜 다변화된 핵전력을 가진 국가에서는 상대의 AI 발전이 보복 능력을 잃을 수 있다는 불안을 키울 수 있다고 분석함

배경

Chatham House의 Marion Messmer는 AI가 여러 센서의 데이터를 빠르게 분석하면 지도자가 공격 여부를 판단하고 긴장을 낮출 시간을 더 확보할 수 있다고 설명함
Chatham House의 Marion Messmer는 AI를 활용한 조기경보가 인간의 판단 시간을 늘려줄 경우 비의도적 핵 확전 위험을 줄일 수 있다고 분석함
Arms Control Association의 Michael Klare와 Xiaodon Liang은 AI 의사결정 지원 소프트웨어가 군사 계획의 선택지를 더 빠르고 철저하게, 더 많은 변수를 고려해 검토하는 데 도움을 줄 수 있다고 분석함

SIPRI의 Vladislav Chernavskikh와 Jules Palayer는 미사일의 물리적 궤적을 예측하는 일과 상대 지도자의 의도를 추론하는 일을 구분해야 한다고 분석함
- 두 연구자는 데이터의 패턴을 잘 찾는 능력이 상대의 결의나 공격 의도를 정확히 읽는 능력까지 보장하지는 않는다고 설명함
두 연구자는 사용자가 AI의 결과를 비판적으로 살피지 않고 받아들이는 자동화 편향과 짧아진 대응 시간이 결합하면 잘못된 권고를 검증하기 어려워진다고 경고함
Messmer는 실제 핵 위기 학습자료가 부족하고 위기마다 역사·전략문화가 다르기 때문에 다른 상황에서 학습한 AI가 중요한 신호를 잘못 해석할 수 있다고 지적함
Klare와 Liang은 재래식 작전용 AI가 상대의 핵 지휘시설에 미칠 영향을 놓치면 제한적인 공격 계획이 핵전력을 겨냥한 공격으로 받아들여질 수 있다고 경고함

Lonergan은 미·중이 AI 경쟁에서 이기려는 이해관계와 우발적인 핵전쟁을 피하려는 이해관계를 동시에 갖고 있다고 분석함
Lonergan은 AI 관련 통보·소통 장치를 상대의 능력을 제한하는 군비통제보다 불투명성과 오해를 줄이는 자발적 신뢰구축 조치로 평가해야 한다고 주장함
Lonergan은 초기 대화에서 인간 통제의 의미와 위험한 행동의 징후를 구체화하고, 민감한 모델 정보 대신 조직·의사결정 절차를 논의하자고 제안함
다만 Lonergan은 자발적 조치의 약한 집행력, 미·중의 개념 차이, 민간 AI 기업의 이해관계가 합의의 한계라고 지적함

SIPRI는 AI로 상대의 이동식 미사일과 보복 전력을 더 잘 찾아낼수록 공격받는 쪽이 핵전력을 잃기 전에 먼저 사용해야 한다는 압박을 느낄 수 있다고 분석함
SIPRI는 이런 압력이 북한·India·Pakistan처럼 작고 덜 다변화된 핵전력에 더 중요할 수 있으며, 규모가 크고 다양한 전력은 상대적으로 생존성을 유지할 가능성이 높다고 평가함
The Diplomat 기고의 QOSHE 재배포본에서 Joseph Webster와 Jonathan Corrado는 북한이 미국의 AGI 우위를 예상하는 것만으로도 더 위험한 태세를 택할 수 있다는 가설을 제시함
- 이는 AGI가 실제로 북한의 보복 능력을 무력화했다는 관측이 아니라 북한의 위협 인식을 다룬 조건부 시나리오이며, 발행처 원문 대조는 미완료임

Messmer와 SIPRI의 분석이 갈리는 지점은 빠른 분석 자체보다 그 결과로 사람이 숙고할 시간이 늘어나는지, 더 빠른 행동을 요구받는지에 있음
Klare와 Liang은 최종 승인권을 인간에게 남기는 원칙에 더해 조기경보와 발사 승인 체계 사이에 사람이 정보를 검토해 전달하는 절차가 필요하다고 제안함
Lonergan은 검증·집행의 한계를 인정하면서도 위기 소통의 실익을 강조하는 반면, Klare와 Liang은 자발적 원칙만으로 다루지 못하는 작전·기술 위험을 강조함
SIPRI 연구진은 AI를 통한 탐지·타격 능력 향상이 상대 핵전력의 보복 능력에 대한 불안을 키우고 전략적 안정성을 약화할 수 있다고 분석함

Erica D. Lonergan은 War on the Rocks 기고에서 인간 통제의 의미를 공동으로 정의하고, 위험한 AI 사용 행동에 대한 공통 이해와 민간 기업의 사고 보고·안전장치 관련 체계를 마련할 것을 제안함
Messmer는 AI와 핵 위험을 다루는 전략적 안정 대화를 모든 핵보유국으로 넓히고, 공동 합의가 어렵다면 개별 국가의 자제 선언부터 추진하자고 제안함
게시 판단은 보류이며, The Diplomat 발행처 원문은 403으로 접근에 실패해 발행일·전체 본문은 미확인이고 QOSHE 재배포본을 원문 확인이나 독립된 두 번째 근거로 계산하지 않았음

BBC News 유튜브 댓글 가운데 내용 있는 것을 골라 옮김

기후변화를 해결하거나 전쟁을 피하는 데도 함께하지 못하는데 AI의 힘이 커지는 것을 막기 위해서는 어떻게 함께할 수 있을지 의문임 — BBC News 유튜브
다른 기술과 마찬가지로 군대가 나서서 자신들에게 유리하게 어떻게 활용할 수 있는지 알고 싶어 하는 것임 — BBC News 유튜브
- 무엇이든 다음번 궁극의 무기가 되는 것임
이 기술이 실제로 인류를 별까지 데려갈 수도 있으며, 인간의 머리만으로는 그런 큰 문제를 해결할 수 없다고 생각함 — BBC News 유튜브
AI가 정말 스스로 생각하기 시작한다면 멈출 수 있다고 생각하는지 궁금함 — BBC News 유튜브
과학에 기반한 AI는 대부분의 정치인보다 훨씬 똑똑함. 우리는 누구를 더 신뢰할까?😁 — BBC News 유튜브
핵무기뿐 아니라 모든 방어 체계에도 해당한다고 생각함 — BBC News 유튜브
버그를 발견했을 때는 이미 너무 늦은 것임 — BBC News 유튜브