여성 연예인과 일반인 얼굴을 합성해 성적인 ‘허위 사진·영상(딥페이크)’ 4000여개를 만들어 텔레그램 대화방에 퍼뜨린 운영자와 방 참가자 23명이 경찰에 붙잡혔다. 운영자와 참가자 24명 중 16명은 10대 고등학생이었다.

이들은 미성년인 아이돌 걸그룹 얼굴을 다수 합성한 ‘아동·청소년 성착취물’도 제작하거나 배포했다. 시중에서 쉽게 접할 수 있는 AI 앱으로 이런 딥페이크 성범죄를 저지른 것으로 나타났다.

익명의 청소년들이 스마트폰을 이용해 텔레그램을 사용하는 이미지. 일러스트 챗GPT

경남경찰청 사이버수사과는 청소년성보호법(성착취물 제작·배포 등), 성폭력처벌법(허위영상물 등 합성·반포) 위반 혐의로 10대 A군을 구속했다고 22일 밝혔다. A군은 지난해 11월부터 올해 4월까지 텔레그램 대화방 3곳을 개설, 본인이 만든 성적인 허위 사진과 영상 500여개를 배포한 혐의다.

경찰은 A군이 개설한 텔레그램 대화방에 참여한 23명도 불구속 입건했다. 이 중 15명은 A군과 같은 10대였고, 나머지 7명은 20~40대였다. 이들 역시 허위 사진·영상 등을 직접 제작해 대화방에 배포하거나 A군이 공유한 딥페이크 사진·영상을 재배포함 혐의를 받고 있다. 온라인상에서 확보한 다른 성착취물을 가져와 대화방에 공유한 혐의도 받는다.

이들 23명이 대화방에 퍼뜨린 성적인 허위 사진과 영상만 3500여개로 조사됐다. 운영자인 A군이 퍼뜨린 것을 포함하면 총 4000여개다. 대화방 운영자 A군과 이들은 서로 일면식도 없는 사이로 파악됐다. 직접 딥페이크 합성물을 제작·배포하지 않은 이들까지 포함하면 대화방 참가자는 840명에 달했다. 오픈방으로 누구나 참가 가능했고, 별도 허위 영상물 등을 판매하진 않았다고 한다.

경남 창원시 경남경찰청 청사 전경. 사진 경남경찰청

경찰은 A군 등이 나체 사진이나 성행위 영상 등에 얼굴을 합성한 피해자를 수십명인 것으로 파악 중이다. 나이가 어린 아이돌 걸그룹이나 제작자 지인 등을 합성한 아동·청소년 성착취물도 있었다. A군 등은 경찰에 “성적 호기심에 재밌을 것 같아서 만들었다”라는 취지로 진술했다.

청소년성보호법상 아동·청소년 성착취물은 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물 등이 등장해 성행위, 유사성행위, 성적수치심이 드는 신체 노출 행위가 담긴 사진이나 영상을 말한다. 이를 제작한 사람은 최하 5년 이상 징역형에 처해진다. 영리 목적이 아닌 단순 배포한 자도 징역 3년 이상 징역형이다.

경찰 관계자는 “10대 청소년들의 경우 호기심과 재미를 이유로 딥페이크 성범죄를 저지르지만, 나이가 어리고 전과가 없어도 구속될 정도로 엄정한 대응이 이루어지고 있으므로 청소년 교육과 예방이 시급하다”고 했다. 이어 “텔레그램 등 보안메신저 이용 범죄는 추적할 수 없다고 과신해 경각심 없이 범행을 하는 경우도 많은데, 지난해 10월부터 텔레그램과 수사 공조 관계를 구축해 검거에 나서고 있다”고 강조했다.