미국 캘리포니아주 샌프란시스코 전경. 로이터=연합뉴스

글로벌 IT기업들의 발상지 실리콘밸리가 위치한 미국 샌프란시스코에서 검찰이 딥페이크와의 전쟁을 선포했다. 시 검찰은 최근 미국 지자체 중 최초로 인공지능(AI)을 활용한 딥페이크 제작 웹사이트를 상대로 소송을 제기했다고 밝혔다.

샌프란시스코 검찰은 지난달 14일 캘리포니아주(州) 법원에 딥페이크 성착취물을 제작하는 웹사이트 16개를 폐쇄하라는 소송을 냈다. 캘리포니아주 및 연방법의 리벤지(복수) 포르노법, 아동 포르노법과 캘리포니아주의 불공정경쟁법을 위반했다면서다.

데이비드 치우 샌프란시스코시 검사장은 "딥페이크 성착취물은 여성을 모욕하고 위협하는 데 사용된다"며 "피해자들의 평판, 정신건강, 자율성을 파괴해 자살에 이르게 하기도 했다"고 AP 통신에 말했다.

데이비드 치우 샌프란시스코시 검사장. AP=연합뉴스

시 검찰은 소송 대상이 된 웹사이트 16개에 올해 상반기에만 총 2억 명 이상 방문했다고 밝혔다. 이들 웹사이트는 미국(캘리포니아·뉴멕시코)뿐만 아니라 영국·에스토니아·세르비아 등에서 운영되고 있다. 시 검찰은 '두더지 잡기 게임(whac-a-mole)'처럼 소송을 진행하면서 다른 웹사이트도 추가할 수 있다고 덧붙였다.

미국 딥페이크 관련 법에 따라 처벌하기 위해선 성착취물을 만들고 배포하는 이들을 일일이 추적해야 한다. 시 검찰은 이미 생성된 딥페이크 이미지의 출처를 추적하는 것은 기술적으로 어렵다고 설명했다. 때문에 아예 웹사이트를 폐쇄하는 것이 근본적인 해결책이라는 주장이다.

미국에선 지난 3월 뉴저지주의 한 고등학교에서 남학생들이 같은 반 여학생들의 얼굴을 합성한 성착취 이미지를 스냅챗과 인스타그램 등 소셜미디어에서 공유한 사건이 알려지며 딥페이크 범죄에 대한 관심이 커졌다.

이번 소송을 주도한 검사들 중 한 명도 16세 여중생의 어머니라고 뉴욕타임스(NYT)가 전했다. 이본 메레 검사는 "딥페이크 범죄와 관련된 기사를 보고 깊은 불안을 느꼈다"며 "뭔가 해야겠다고 느꼈다"고 NYT에 말했다. 그가 9살 딸을 키우는 다른 동료에게 논의한 것을 시작으로, 동료들도 힘을 모았다고 한다.

딥페이크 관련 이미지. 중앙DB

시 검찰은 딥페이크 성착취물 제작 업체를 대상으로 정부 차원의 소송이 제기된 건 이번이 처음이라고 밝혔다. 샌프란시스코에 다수의 IT 기업이 소재하고 있는 만큼 미 전역의 관심도 크다. 딥페이크 성착취물은 주로 소셜미디어를 통해 유포되는데, 샌프란시스코에 본사를 둔 메타(페이스북·인스타그램·왓츠앱 모회사) 등 기업들이 협조할 경우 더욱 효과적일 수 있어서다.

딥페이크 웹사이트 운영자 중 다수가 미국 밖에 있어 소재지를 파악하기 어려울 수 있다는 우려도 있다. 이와 관련, 리아나 프페퍼콘 스탠퍼드대 법학대학원 연구원은 "힘든 싸움이 되겠지만 웹사이트 운영자가 소송을 무시하면 일부 사이트는 비활성화될 수 있다"고 AP에 말했다. 시 검찰이 승소한 후 법원이 레지스트라(도메인 이름 등록기관), 웹 호스팅 및 지급 업체 등에 명령을 내리면 웹사이트 소유자가 법정에 나타나지 않더라도 사이트를 폐쇄할 수 있다는 설명이다.

한국에서도 텔레그램을 중심으로 한 딥페이크 성착취물 유포가 사회적 이슈로 떠올랐다. 정부는 딥페이크 성착취물을 소지하거나 시청하는 행위도 처벌하도록 법 개정을 추진하고 있다. NYT는 지난달 29일 한국의 딥페이크 성범죄 실태에 대해 "피해자를 탓하지 말고 딥페이크 제작자를 처벌해야 한다"고 지적했다.