미국 공화당 대선 후보 도널드 트럼프 전 대통령 홍보에 도용된 유럽의 여성 패션ㆍ뷰티 인플루언서들의 소셜미디어 X(옛 트위터) 가짜 계정. 현재는 해당 계정이 차단된 상태다. 사진 CNN 홈페이지 캡처

딥페이크를 활용한 디지털 성범죄가 심각한 사회 문제로 떠오르고 있는 가운데 미국 대선을 앞두고 인공지능(AI)의 정교한 이미지 생성 기능을 활용한 가짜 사진 확산이 선거 혼란을 부추기고 있다는 지적이 나온다.

공화당 대선 후보 도널드 트럼프 전 대통령은 지난 19일 팝 스타 테일러 스위프트와 그의 팬들이 자신을 지지하는 가짜 사진을 소셜미디어에 올리고 “나는 받아들인다”(I accept)라고 썼다. 테일러 스위프트는 특정 대선 후보 지지 의사를 밝힌 적이 없다. 그의 팬들이 트럼프 지지를 표한 사진도 조작된 것으로 나타났다.

또 할리우드 유명 배우 라이언 레이놀즈가 민주당 대선 후보 카멀라 해리스 부통령 지지를 표하는 티셔츠 사진이 최근 소셜미디어에 확산되기도 했다. 이 역시 배우와 특정 이미지를 조합한 가짜 사진으로 드러났다.

미국의 초당파적 시민사회 단체 ‘뉴스 리터러시 프로젝트(NLP)’는 28일(현지시간) “11월 대선을 앞두고 허위 주장과 가짜 지지를 담은 게시물이 소셜미디어에서 폭발적으로 증가하고 있다”며 자체 홈페이지를 통해 576건의 조작 사례를 공개했다.

NLP 분석 결과 특정 후보자의 외모ㆍ평판을 조작한 이미지 조작 사진이 240건(42%)으로 가장 많았다. 뒤이어 후보 지지를 왜곡하는 조작 사진이 100건(17%), 근거 없는 음모론을 퍼뜨리는 이미지 91건(16%), 선거 제도와 관련해 잘못된 정보를 알리는 이미지 74건(13%), 후보 정책ㆍ공약을 오도하는 이미지 71건(12%) 등으로 나타났다.

댄 에본 NLP 수석 매니저는 “유명인이 노골적으로 정치적 메시지가 담긴 티셔츠를 입고 있는 사진을 본다면 대부분 가짜일 가능성이 크다”고 CNN에 말했다.

미국 팝스타 테일러 스위프트와 그의 팬들이 공화당 대선 후보 도널드 트럼프 전 대통령 지지를 표하는 것처럼 조작된 가짜 사진. 트럼프 전 대통령은 이들 사진을 지난 18일(현지시간) 자신의 소셜미디어에 올리고 “나는 받아들인다”고 썼다. 사진 소셜트루스 캡처

CNN이 영국의 비정부 기구 ‘정보회복력센터(CIR)와 공동 조사한 결과 트럼프 전 대통령과 공화당 부통령 후보 JD 밴스 상원의원 홍보 목적으로 만들어진 가짜 계정 56건이 발견되기도 했다. CNN은 “CIR과의 조사에서 미국 대선과 직접적 관련이 없는 네덜란드, 덴마크, 러시아 패션ㆍ뷰티 인플루언서 17명의 여성 사진이 도용된 것을 확인했다”고 보도했다.

이를테면 트럼프 전 대통령 슬로건인 ‘마가(MAGAㆍ미국을 다시 위대하게) 홍보 전도사’를 자처하며 약 3만 명의 팔로워를 확보한 루나는 소셜미디어 X(옛 트위터) 계정에서 자신을 위스콘신 출신 여성으로 소개했지만, 게시물로 올린 사진은 사실과 달랐다. 지난 7월 29일 흰색 비키니를 입고 해변에서 찍은 셀카 사진의 주인공은 루나도, 미국 유권자도 아닌 독일의 패션 인플루언서 데비 네더로프(32)였다. 네더로프는 “제 얼굴 사진이 트럼프 캠페인 사진에 도용된 것에 분노와 좌절감을 느꼈다”고 CNN에 말했다.

이런 가짜 계정 사진이 트럼프 캠페인과 직접 연루됐다는 증거는 없지만, 빙산의 일각에 불과할 수 있다는 게 전문가들의 지적이다. CNN은 “56개의 가짜 계정 분석 결과 일정한 패턴이 드러났다”며 “젊은 미모의 여성 사진을 사용해 ‘트럼프 지지’를 밝히고 #MAGAPatriots(마가 애국자), #MAGA2024, #IFBAP(나는 모든 애국자를 지지한다) 등의 해시태그를 공통적으로 사용했다”고 보도했다.

미국 영화배우 라이언 레이놀즈가 민주당 대선 후보 카멀라 해리스 부통령을 지지하는 것처럼 묘사된 가짜 사진. 사진 소셜미디어 캡처

특히 소셜미디어 X의 AI 기반 챗봇 ‘그록(Grok)’이 가짜 사진 확산에 영향을 미쳤다는 진단이 나온다. 지난 13일 출시된 그록2는 복잡한 기술 없이도 ‘달리’나 ‘미드저니’ 등 기존 이미지 생성 프로그램이 구현하지 못한 세부 묘사가 가능해 트럼프 전 대통령이나 해리스 부통령에 대한 가짜 콘텐트의 홍수를 불러일으켰다고 CNN은 짚었다. 만삭의 해리스 부통령 배를 트럼프 전 대통령이 쓰다듬는 이미지나 트럼프 전 대통령이 김정은 북한 국무위원장 앞에서 무릎 꿇고 있는 이미지는 그록을 활용해 만든 가짜 사진들이다.

문제는 누구나 고품질의 이미지를 쉽게 조작할 수 있게 됐지만, X 등 소셜미디어 업체의 책임 있는 조치는 오히려 퇴보하고 있다는 점이다. CNN에 따르면 테슬라 최고경영자(CEO) 일론 머스크가 인수한 X의 경우 외부 인사 100여 명으로 구성된 ‘신뢰ㆍ안전 위원회’를 2022년 12월 해체했다. 워싱턴포스트(WP)는 “규제 없이 무분별하게 만들어지는 AI 이미지가 올 대선에서 파괴적인 영향을 미칠 것이라는 우려가 커지고 있다”고 보도했다.

가짜 이미지 확산 배경에 적성 국가의 조직적 활동 징후도 감지되고 있다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 “가짜 계정들과의 연관성을 확인할 수는 없지만 이것은 국가 행위자일 수 있다”며 “정교한 수준으로 볼 때 러시아, 이란, 중국 등 적대적 국가의 소행일 수 있다”고 CNN에 말했다. 그는 “우리는 올 대선을 앞두고 소셜미디어를 이용한 가짜 정보 캠페인을 벌이는 국가 행위자들이 여럿 있다는 것을 알고 있다”고 했다.

한편 트럼프 전 대통령 대선 캠프가 유명 팝스타 히트곡을 허락 없이 사용한 데 대한 반발이 잇따르고 있다. 트럼프 캠프 대변인 스티븐 청이 소셜미디어에 올린 동영상에 비욘세가 부른 노래 ‘프리덤’이 배경음악으로 쓰이자 비욘세 소속 음반사는 “곡 사용을 중단하지 않으면 법적 조치를 취하겠다”고 경고했다. 이후 해당 영상은 지워졌다.

앞서 유명 가수 셀린 디옹 역시 자신의 ‘마이 하트 윌 고 온’(My Heart Will Go On) 공연 영상이 트럼프 유세장에서 흘러나오자 “무단 사용”이라며 항의했다.