익명의 청소년들이 스마트폰을 이용해 텔레그램을 사용하는 생성 이미지. 일러스트 챗GPT

경찰이 인공지능(AI)을 이용해서 지인 대상 합성물을 제작‧유포하는 ‘딥페이크’ 성범죄에 대한 특별 단속에 나선다. 단속은 28일부터 7개월간 집중적으로 진행될 예정이다. 윤석열 대통령이 이날 국무회의에서 “철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑으라”고 지시한 데 따른 조치다.

최근 텔레그램 등 소셜네트워크서비스(SNS)를 통해 초등학생부터 군인까지 대상을 가리지 않고 무차별적으로 불법 합성물이 유포되고 있기 때문이다. 텔레그램에는 전국 초·중·고·대학의 이름이나 ‘지능방(지인능욕방)’ ‘겹(겹치는)지방’ 등의 이름으로 딥페이크 합성물을 제작‧유포하는 불법 대화방이 우후죽순격으로 생겼다.

경찰은 AI 기술 발전으로 누구나 어렵잖게 허위 영상물 제작이 가능해지면서 관련 성범죄가 증가하고 있다고 짚었다. 허위 영상물 등 관련 범죄는 2021년 156건에서 2022년 160건, 지난해 180건에서 올해는 7월 기준 총 297건으로 해마다 늘고 있다.

김주원 기자

특히 10대 청소년이 딥페이크 허위 영상물 유포 성범죄에서 차지하는 비중이 커지고 있다. 10대 피의자 수는 2021년 78명 중 51명(65.4%)에서 지난해 120명 중 91명(75.8%)으로 2년 새 1.8배로 증가했다. 올해 7월까지 검거된 피의자 178명 중 131명(73.6%)이 10대로 조사됐다.

경찰은 이런 딥페이크 관련 성범죄가 암호화가 특징인 텔레그램에서 주로 이뤄지고, 적발 시 방을 폐쇄하는 등 수법이 점차 구체화‧체계화되고 있다며 특별 단속이 필요하다고 강조했다.

단속은 시‧도 경찰청 사이버성폭력수사팀을 중심으로 진행된다. 딥페이크 여부를 탐지할 수 있는 프로그램을 활용해 범행을 분석하고, 국제공조도 진행할 예정이다. 학교전담경찰관(SPO)을 중심으로 한 범죄첩보 수집 및 교육‧활동을 통해서 학교에서의 범죄 예방 활동도 함께 진행된다.

김주원 기자

불법 합성물 대상이 아동‧청소년일 경우 아동‧청소년의 성보호에 관한 법률(청소년성보호법)을 적용해 엄격하게 대응하겠단 게 경찰 방침이다. 청소년성보호법은 문제가 되는 영상을 소지·시청하면 1년 이상의 징역, 제작·배포할 경우엔 최소 징역 3년에서 최대 무기징역으로 처벌하도록 규정한다.

경찰청 관계자는 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대 범죄”라며 “발본색원(拔本塞源)해 국민의 불안감을 불식시키겠다”고 말했다.

서울경찰청도 서울시교육청과 협력해 서울 내 초·중·고교 1374곳, 학부모 78만명을 대상으로 긴급 ‘스쿨벨’을 발령했다. 스쿨벨이란 새로운 유형의 청소년 관련 범죄가 발생할 경우 학생·교사·학부모에게 애플리케이션(앱) 또는 문자 등을 통해서 범죄를 알리고 예방하는 시스템이다.

26일 소셜네트워크서비스(SN)와 온라인 커뮤니티에는 딥페이크 불법 합성물 피해를 입었다는 학교명을 검색할 수 있는 '피해학교지도'가 등장했다. 피해학교지도 사이트 캡처

불안감이 커지면서 온라인에선 각종 대응 방안이 자구책처럼 쏟아지고 있다. 27일 ‘X(엑스·옛 트위터)’에선 ‘피해학교지도’가 공유됐다. 딥페이크 피해가 발생한 학교와 위치를 통해 피해 사실을 스스로 확인할 수 있도록 했다. 해당 지도를 볼 수 있는 링크는 SNS 및 온라인 커뮤니티 등을 통해서 퍼지고 있다.

학부모들도 비상에 걸렸다. 학부모들은 온라인 커뮤니티 등에 어린 자녀의 ‘휴대전화를 검사했다’나 ‘텔레그램 사용 여부 등을 확인해야 한다‘는 글을 올리고 있다. 한 누리꾼은 “(딥페이크 범죄가) 여동생 등 가족을 타깃으로도 한다는데 어떻게 해야 하느냐”며 토로했다.

SNS상에 프로필 사진(프사) 등으로 공개한 자신·가족의 얼굴 사진을 모두 삭제하거나 비공개로 전환하는 경우도 많다. 초등학생 1학년인 아들과 7살 유치원생 딸을 둔 김모(35)씨는 아이들의 사진으로 설정했던 SNS 프로필 사진을 모두 내렸다. 김씨는 “초등학생도 딥페이크 합성물을 만들 수 있다는 기사를 보고 놀라 사진을 모두 지웠다”고 말했다.

온라인에 올라온 각종 개인정보를 삭제해주는 ‘디지털장의사’ 문의도 잇따르고 있다. 디지털장의사로 활동하는 김호진 산타크루즈 컴퍼니 대표는 “평소에는 일주일에 1~2건 정도 문의가 오는데, 최근엔 하루에만 딥페이크 관련 문의를 5건 이상 받고 있다”며 “문의 대부분은 청소년들이 하고 있다”고 말했다.

곽대경 동국대 경찰사법대학 교수는 “딥페이크 피해 관련 수사가 어렵다는 우려가 많아지면서 시민들이 불안한 마음에 자구책을 마련하는 것으로 보인다”라고 분석했다.