중앙선거관리위원회(이하 선관위)가 딥페이크 탐지 인공지능(AI) 모델을 도입했다. 6·3 대선을 앞두고 AI로 만든 허위·비방용 딥페이크 영상이 무분별하게 유통되는 걸 막기 위해서다. 국립과학수사연구원(국과수)과 한국전자기술연구원(KETI)이 공동 개발했으며, 모델명은 그리스 신화에서 제우스가 쓰는 방패 이름을 딴 ‘아이기스(Aegis)’다.

국과수와 KETI는 지난해부터 ‘생성 AI의 사회적 부작용을 방지하기 위한 자가 진화형 딥페이크 탐지 기술’ 연구를 수행 중이다. 아이기스는 이 연구 2년 차에 개발한 모델이다. 국과수 관계자는 “딥페이크·딥보이스(AI로 음성조작) 탐지는 물론 향후 결과물을 악의적인 의도를 가지고 생성했는지 분석하는 기능도 아이기스에 탑재할 것”이라고 말했다.

최근 선거전이 격화하면서 주요 대선 주자를 표적으로 한 딥페이크 영상이 소셜미디어(SNS)를 중심으로 무분별하게 퍼지고 있다. 수의를 입고 구치소에 앉아있는 이재명 더불어민주당 대선 후보, 가발을 벗는 한동훈 국민의힘 대선 경선 후보 등 음해·비방·인신공격성 영상들이 대부분이다. 이에 선관위는 지난 9일부터 ‘허위 사실·비방 AI 딥페이크 특별대응팀’을 운영하며 3단계에 걸쳐 딥페이크 영상을 탐지하고 있다. 먼저 인간 모니터링단이 맨눈으로 딥페이크 영상을 구별하는 ‘시청각적 탐지’(1단계)를 수행한다. 이후 구별이 어려울 경우 아이기스 등을 활용해 ‘프로그램 감별’(2단계)을 한다. 선관위 관계자는 “감별력이 좋은 국과수 모델(아이기스)을 메인으로 탐지하되, 여타 모델들도 함께 교차 검증하는 식으로 이뤄진다”고 설명했다. 이후 전문가들이 판단하는 ‘AI 전문가 감별’(3단계)로 마무리 한다.