핵무기 시대를 지배했던 공포의 균형이 인공지능(AI) 군비 경쟁 앞에서는 통하지 않을지도 모른다. 1940년대 미국과 소련 등 강대국의 핵무장은 공멸의 불안감 때문에 타격 전 숙고를 인간에게 요구했지만, AI는 기계의 반응 속도를 최우선으로 삼는다. 불안정하나마 유지된 냉전 핵 시대의 억제력이 이성도 공포도 없는 알고리즘 속에서 더 쉽게 무력해질 수 있다는 의미다.

2025년 9월 3일 중국 베이징에서 열린 전승절 열병식에서 드론 등 무기 편대가 행진하고 있다. AP=연합뉴스

뉴욕타임스(NYT)는 최근 전 세계 군사 강국들이 앞다퉈 자율 살상 무기와 AI 제어 시스템을 실전 배치하면서 과거 냉전 시대와 다른 차원의 안보 위기가 찾아왔다고 진단했다. 냉전기를 지탱한 안보 원리는 이른바 ‘상호확증파괴(MAD·Mutually Assured Destruction)’였다. MAD란 핵보유국이 상대의 선제 핵공격을 받더라도 핵추진 잠수함 등으로 ‘제2격(Second Strike)’에 나서는 상황을 전제로 한다. 핵에는 핵으로 반드시 보복 당한다는 인식이 서로를 주춤하게 만드는 원리다.

다른 차원의 위기는 이미 현실이 됐다. 지난 2월 미·이스라엘 연합군의 이란 공격 첫날, 미군 토마호크 순항미사일이 이란 남부 미나브시 한 학교를 때려 어린이 100명 이상이 숨졌다. 이 학교는 인접한 이란 혁명수비대(IRGC) 해군 시설의 일부였다가 2013~2016년 사이 담장으로 분리된 것으로 파악됐다. 최신화되지 않은 표적 데이터가 AI의 오판을 야기했을 수 있다. 인간이 육안으로 위성 사진을 검토했다면 참사를 피할 수 있었을 것이라는 얘기는 그래서 나온다.

이란 남부 미나브시 한 학교가 지난 2월 미군 공습으로 파괴됐다. AP=연합뉴스

그럼에도 군사 강국들의 AI 군비 경쟁은 계속되고 있다. NYT에 따르면 미국은 최신 예산안에 자율무기 시스템 개발용으로 130억 달러(약 18조원) 이상을 편성했고, 지난 10년간 집행한 AI 관련 예산은 프로그램별로 분산돼 총액조차 추산이 어렵다. 중국의 투자 규모는 공개되지 않았지만 미국에 비견되는 수준으로 추정된다. 러시아는 5년째 이어진 우크라이나 전쟁을 자국 자율무기의 실전 시험장으로 활용하고 있다.

인간의 판단 속도를 훌쩍 뛰어넘는 기계 간의 교전을 전제로 하는 미래전의 단면은 이란전쟁 후 미 기업 팔란티어가 주최한 컨퍼런스에서 드러났다. 시연 영상 속 위성 화면에 적의 창고 앞 흰색 트럭 행렬이 포착된 후 아군 장교는 마우스로 이를 클릭했다. AI는 단 수 초 만에 해당 표적에 가장 적합한 무기를 제안했고 비용까지 따져 완벽한 공격 계획을 수립했다.

이 과정에서 인간의 역할은 클릭에 그쳤고 숙고의 시간은 필요하지 않았다. 미 관계자는 “인간의 개입은 ‘왼쪽 클릭, 오른쪽 클릭’ 정도였다”며 “혁명적인 일”이라고 말했다.

미국이 뛰어든 AI 경쟁의 계기는 지난해 9월 중국 베이징에서 열린 ‘전승절(항일 전쟁 및 반파시스트 전쟁 승리 대회)’이 결정적이었다고 NYT는 짚었다. 시진핑 중국 국가주석을 비롯, 블라디미르 푸틴 러시아 대통령과 김정은 북한 국무위원장이 지켜보는 상황에서 중국은 전장에 투입될 수 있는 첨단 드론 모델들을 대거 과시했다.

NYT는 미 당국자들을 인용해 “미 전투 드론 프로그램이 중국에 뒤처졌다는 결론이 내부적으로 나왔다”고 전했다. 발등에 불이 떨어진 미 국방부는 즉각 자국 방산업계에 속도전을 주문했다. 실제 미 방산 스타트업 앤두릴 등은 중국과 유사한 AI 드론의 생산을 당초 계획보다 수개월 앞당겨 시작했다고 한다.

현재의 군비 경쟁이 과거와 다른 건 국가 방산 주도권이 록히드마틴 등 기존 업체에서 실리콘밸리 기술 기업들로 넘어갔다는 점이다. 미 국방부의 AI 두뇌로 여겨지는 ‘프로젝트 메이븐’이 대표적이다. 2017년 출범한 해당 프로젝트는 2019년 팔란티어가 이어받아 운용 중이다.

팔란티어 로고.

메이븐은 미국의 이란 공격 때 실전에서 증명됐다. 브래드 쿠퍼 미 중부사령관(CENTCOM)은 작전 개시 초기 몇 주간 메이븐이 “수천 개의 표적을 생성했다”며 “첨단 AI 도구 덕분이었다”고 평가했다.

메이븐의 능력은 중국과 경쟁이라는 관점에서 눈여겨 볼 만하다. 에밀리아 프로바스코 조지타운대 안보·신흥기술센터(CSET) 선임연구원은 NYT에 “대규모 데이터 유입과 운용 인력의 숙련도가 미국의 우위를 만들고 있는 것”이라며 “중국도 이미 유사한 체계를 갖고 있을 가능성이 크다”고 진단했다.

근거가 있다. 2016년 한 에어쇼에서 드론 67대를 동시 편대 비행시킨 걸 계기로 중국은 기술 향상을 이뤄 2024년 같은 행사에서 장갑차와 드론을 포함한 여단 전체를 AI가 지휘하는 체계를 공개했다. 비행 중 수십 대 소형 드론을 내보내는 공중 항모 드론도 중국에서 포착됐다. 프로바스코 연구원은 “중국이 미국의 합동사격네트워크를 모방하려고 한다”고도 말했다. 세계적인 연결망을 갖춰 한쪽 대륙의 드론이 반대편에서 공격을 유도하도록 하는 시스템이다. 중국은 제조업 지배력을 바탕으로 물량 공세도 가능하다.

실전성이 증명된 건 우크라이나 전장이다. 열세인 우크라이나는 민간 레이싱 드론을 개조해 전장에 바로 투입하는 방식으로 러시아를 막아냈다. 물론 러시아도 적응했다. 이미 러시아는 2014년 군 전투력의 30%를 2025년까지 자율화하겠다는 목표를 세웠다. 2018년에는 시리아에서 무인 무장 차량을 실전 투입하기도 했다고 NYT는 전했다.

결과는 성공적이지 않았지만 러시아는 우크라이나 전장에서 교훈을 얻는 것으로 보인다. NYT는 복수의 미 당국자를 인용해 “러시아와 중국 모두 전장에서 AI가 독자적으로 전투 결정을 내리는 실험을 진행하고 있다”며 “중국의 경우 수십 대의 자율 드론이 인간 개입 없이 협동 공격을 수행하는 시스템을 개발 중”이라고 설명했다.

이에 더해 우크라이나는 5년간 축적한 전장 데이터를 팔란티어 등 AI 기업에 대규모로 제공하기 시작했다. AI가 전쟁의 패턴을 학습하는 속도가 한층 빨라지고 있다는 의미다. 마이클 호로위츠 전 미 국방부 자율무기 개발 담당자는 “우크라이나 전장에서 전투가 전 세계를 위한 실험실 역할을 맡았다”고 분석했다.

경쟁의 외연은 유럽으로도 확장됐다. 미국의 북대서양조약기구(나토·NATO) 공약에 대한 의구심이 커지면서 독일·프랑스·이탈리아·영국·폴란드 등 5개국은 지난 2월 드론 위협에 대응할 공동 방공체계 개발에 합의했다.

문제는 AI 경쟁이 핵무장 경쟁 때처럼 공포의 균형을 이룰 수 있을지를 놓고 회의적인 의견이 상당하다는 점이다. 앤두릴 창업자 팔머 럭키는 과거 NYT 인터뷰에서 “미·중·러의 AI 무기 구축은 냉전기 상호확증파괴과 비슷한 억제용”이라고 규정한 적이 있다.

우크라이나 병사가 드론을 날려보내고 있다. 로이터=연합뉴스

하지만 전문가들은 AI 군비 경쟁에 이 같은 전제가 성립하지 않는다고 지적한다. 핵무기처럼 억제력이 작용하려면 상대의 보복 능력을 확실히 알아야 하지만 AI 체계는 발전의 한계가 명확하지 않아 그 능력을 파악하기 어렵다. 대부분의 프로그램이 연구·개발 단계에 있고 예산은 기밀이다. NYT는 “미·중·러 정보기관은 서로의 공장 라인과 군사 퍼레이드, 그리고 무기 거래를 감시하며 상대의 역량을 추론하고 있지만 정확히 어느 쪽이 얼마나 앞서 있는지는 불분명하다”고 봤다.

구조적 차이도 주목된다. 냉전 시대 핵무력 경쟁은 정부 또는 군이 주도했지만 AI 경쟁은 스타트업과 벤처 투자자가 주역이다. 개발 문턱이 낮아진 만큼 종결점도 뚜렷하지 않아 소모적 혁신 경쟁이 이어질 가능성이 크다.

인간 이성보다 더 빠르게 움직이도록 설계된 AI가 의도치 않은 확전을 야기할 수 있다는 게 NYT의 결론이다. 메이븐을 출범시킨 잭 섀너핸 전 미군 중장은 “상대가 무언가를 숨기고 있다고 느끼는 이상 안전하지 않은 시스템을 서로 전장에 투입하는 악순환이 생긴다”며 “기술이 통제를 벗어나기 전 한계선이 필요하다”고 조언했다.