지난달 5일 니콜라스 마두로 베네수엘라 대통령과 부인 실리아 플로레스가 카라카스 자택에서 체포돼 미국에 도착, 헬기에서 내린 뒤 호송 요원들에 이끌려 미국 맨해튼의 남부연방지방법원으로 걸어가고 있다. 마두로 체포 작전에는 앤스로픽의 AI가 사용된 것으로 알려졌다. 로이터=연합뉴스

“국가 안보를 위해 인공지능(AI) 빗장을 풀어라.”(미국 국방부)
“살상용 무기로는 안 된다.”(앤스로픽)

미 국방부(전쟁부)와 AI 기업 앤스로픽의 충돌이 근본적인 질문을 던지고 있다. ‘군사 분야에서 AI를 어디까지 쓸 수 있을까’. 앤스로픽은 AI 챗봇 ‘클로드’를 서비스하는 회사다. AI 업계는 물론 방위산업(방산)에 강점을 가진 한국에도 중요한 이슈라 관심을 모은다.

파이낸셜타임스(FT)는 24일(현지시간) 피트 헤그세스 미 국방장관이 다리오 아모데이 앤스로픽 최고경영자(CEO)를 만나 “클로드를 합법적인 군사 작전에 쓰는 것에 동의하지 않으면 국방부 공급망에서 배제하겠다”고 위협했다고 보도했다. 27일까지 답하라는 구체적인 ‘데드라인’도 제시했다. ‘큰 손’ 국방부가 기밀 작전에서 유일한 AI로 채택한 클로드를 내칠 수 있다고 경고한 셈이다. 국방부는 오픈AI(챗GPT)나 구글(제미나이) 같은 경쟁사로 공급망 교체까지 검토 중이다.

피트 헤그세스 미 국방장관. AP=연합뉴스

국방부는 미국 최대 규모 단일 기술 수요처로 꼽힌다. 공급망에서 특정 회사를 제외하는 건 통상 적대국과 연계한 기업에 적용하는 극단적 조치다. 공급망에서 배제되면 국방 관련 신규 사업 참여가 제한될 수 있을 뿐더러, 다른 정부기관과 계약은 물론 동맹국과 공동 방산 프로젝트를 수주할 때도 부정적 영향을 미칠 수 있다.

하지만 아모데이 CEO는 대규모 자국민 감시나 자율 살상 무기에의 활용을 용납할 수 없다는 기존 입장을 재확인하며 국방부 요구를 사실상 거부한 것으로 알려졌다. 앤스로픽은 AI 영리화를 반대하는 오픈AI 출신이 모여 2021년 설립한 회사다. ‘안전과 윤리’가 핵심 가치다. 보안과 정확도에 강점이 있어 기업용 AI 시장에서 점유율 1위다.

김경진 기자

갈등의 발단은 지난달 3일 미국이 베네수엘라를 공습해 니콜라스 마두로 대통령을 체포한 군사 작전이었다. 당시 국방부는 클로드와 팔란티어의 플랫폼 등을 작전에 활용했다. 이 과정에서 베네수엘라 군인 등 다수 사상자가 나오자 앤스로픽이 AI 기술의 오남용 가능성에 우려를 나타내며 제동을 걸었다.

국방부는 AI를 정보 분석, 표적 식별, 작전 계획 수립 등 전력 증강의 핵심 수단으로 보고 있다. 클로드의 윤리 원칙이 거추장스럽다는 입장이다. 모든 군사 용도로 AI를 제한 없이 쓸 수 있는 권한을 요구하는 이유다. 미 정치전문 매체 악시오스에 따르면 국방부는 개별 상황마다 앤스로픽과 협상할 수 없을 뿐더러, 긴박한 작전을 펼치는 도중 AI 기능이 갑자기 차단될 위험을 우려하고 있다.

다리오 아모데이 앤스로픽 CEO. AP=연합뉴스

앤스로픽 만큼은 아니지만, 경쟁사들도 ‘살상 목적의 AI 직접 사용 금지’ 같은 안전장치를 두고 있다. 기술 오·남용에 따른 법적 책임과 평판 리스크(위험)를 우려해서다. 하지만 국방부가 민간 기업의 윤리 강령보다 군사적 효율성을 앞세울 경우, 향후 미국이 주도하는 AI 생태계가 ‘안보 우선주의’로 재편될 가능성이 크다. 미국 IT 전문매체 테크크런치는 “국가 안보와 기업 윤리가 충돌하는 사상 초유의 법적·윤리적 분쟁으로 번질 수 있다”고 전망했다.

한국 방산 업계에도 영향을 줄 수 있다. 수출 경쟁력을 높이기 위해 AI를 탑재한 무기 체계 도입에 속도를 내고 있어서다. 미 국방부가 앤스로픽을 배제하고 특정 AI 모델 사용을 강제할 경우, 신규 사업 수주에 참여할 때 변수로 작용할 가능성이 있다.