지난 2월 선관위에 고발당한 울산 남구청장 전 예비후보 박성진씨가 SNS에 게시했던 딥페이크 영상 중 일부. 사진 중앙선거관리위원회

지난 13일 조국혁신당 점퍼 차림에 짐을 든 키 큰 남성이 전통시장을 걸어가는 뒷모습이 담긴 사진 한 장이 소셜미디어에 올라와 논란이 일었다. 경기 평택을 국회의원 재선거에 출마한 조국 후보를 연상케했지만, 실제 사진이 아닌 인공지능(AI) 합성물이었기 때문이다. 조 후보 측은 “캠프에서 만든 게 아니다”고 해명했으나, 사진은 이미 퍼져나간 뒤였다.

지난 2월엔 울산 남구청장 선거에 출마한 전 더불어민주당 예비후보 박성진씨가 “시사주간지 타임이 울산 남구를 이끌 인물로 박성진을 선정했다”는 뉴스 영상을 자신의 소셜미디어에 게시했다. 영상 속 내용도, 이를 전하는 여성 아나운서의 얼굴과 목소리도 모두 가짜였다. 선거관리위원회는 지난 2월 9일 박씨를 ‘딥페이크를 활용한 허위사실 유포’ 혐의로 고발했고, 박씨는 후보직을 사퇴했다. 딥페이크 관련 조항이 공직선거법에 신설된 뒤 첫 고발 사례다.

AI 딥페이크가 선거판을 뒤덮고 있다. 중앙선거관리위원회에 따르면 21일 기준 6·3 지방선거와 관련해 선관위가 삭제를 요청한 딥페이크 게시물은 8832건에 달한다. 고의·악의적 사례에 대한 고발 2건, 수사 의뢰 1건, 경고 33건의 조치도 별도로 이뤄졌다. 관련 게시물이 매일 수백 건씩 늘고 있어 지난해 대선 집계치(1만510건)는 일찌감치 넘어설 전망이다. 노태악 중앙선관위원장은 이날 ‘국민께 드리는 말씀’에서 “선관위는 절치부심의 심정으로 철저히 선거를 준비하겠다”며 “딥페이크 영상을 이용해 선거 질서를 훼손하는 행위에는 단호하게 대응할 것”이라 밝혔다.

2022년 1월 대선 당시 새만금 전북도민 대토론회에 등장했던 윤석열AI의 모습. [뉴스1]

2023년 12월 신설된 공직선거법 제82조의8은 선거일 전 90일부터 선거운동을 위해 실제와 구분하기 어려운 AI를 활용한 음향·이미지·영상의 제작·편집·유포를 금지한다. 90일 이전엔 허용되지만, AI로 만든 정보라는 점을 명확히 표시해야 한다.

불과 4년 전만 해도 AI 영상은 금지 대상이 아닌 새로운 선거 기법에 가까웠다. 2022년 20대 대선 당시 국민의힘 대표였던 이준석 현 개혁신당 대표가 꺼내 든 ‘AI 윤석열’이 대표적이다. 어떤 질문에도 능청스럽게 받아치는 영상은 2030세대에서 화제가 됐다. 그러나 같은 해 6월 지방선거에서 일부 국민의힘 후보들이 ‘AI 윤석열’로 윤석열 전 대통령의 가짜 지지 영상을 만들면서 규제 논란이 불거졌다. 하지만 처벌 조항이 없어 선관위는 손을 쓸 수가 없었다.

조국 조국혁신당 대표를 연상케 해 합성 사진 논란이 일었던 AI사진의 모습. 왼쪽 손이 왜곡된 모습을 확인할 수 있다. 커뮤니티 캡처

이듬해 11월부터 국회 정치개혁특별위원회에서 이어진 논의는 처음엔 “확 풀어주되 AI 제작 표시만 하게 하자”는 네거티브 규제 쪽으로 기울었다. 선거 비용 절감 효과까지 거론됐지만 “허위 영상의 범주를 법적으로 가르기 어렵고 악용 여지가 넓다”는 장동혁 당시 정개특위 위원의 주장에 힘이 실리며 선거 90일 전 전면 금지로 가닥이 잡혔다. 미국 캘리포니아주의 60일 전 금지 사례가 참고됐고, 90일은 총선 전 의정보고가 금지되는 기존 조항을 따랐다.

조항 신설에도 매일 수백 건씩 쏟아지는 딥페이크 게시물은 선관위의 고민거리다. 후보 목소리를 그대로 흉내내거나 육안으로 가려내기 어려울 만큼 영상의 기술 수준도 정교해지고 있다. 이에 선관위는 지난해 12월부터 440여명 규모의 허위사실공표·비방 특별대응팀을 가동하고, 국립과학수사연구원과 한국전자기술연구원이 공동 개발한 딥페이크 식별 프로그램 ‘아이기스’까지 도입해 집중 모니터링에 나선 상태다. 선관위 관계자는 “겉으로 구별하기 어려운 영상이 많아 식별 프로그램 의존도가 높아지고 있다”며 “카톡 단체방처럼 폐쇄된 공간에서 공유되는 게시물을 찾는 데는 한계가 있다”고 말했다. 삭제 요청 때마다 “왜 팬심으로 만든 게시물까지 간섭하느냐”는 항의도 적지 않다고 한다.

최근 현수막 사진도 AI로 조작 논란이 일정도로 AI를 활용한 사진 제작이 보편화되고 있다. 손솔 진보당 의원 페이스북 캡처.

단속 강화 기조에 대한 정치권 일각의 불만도 제기된다. 선거 비용 절감은 물론, 지지자들이 만드는 AI 게시물을 일일히 차단하는 건 비현실적이라는 이유에서다. 박명호 동국대 정치외교학과 교수는 “여러 선거를 거치며 처벌 사례나 판례가 쌓여야 기준이 정립될 듯하다”며 “AI 선거운동에 대해 아직 명확한 해법을 내놓긴 어려운 단계”라고 했다.