서울시가 딥페이크 공동 대응 업무 협약을 체결했다. [중앙포토]

서울시가 서울중앙지검·서울경찰청·서울시교육청과 손잡고 딥페이크(허위영상물) 성범죄 예방·대응에 나선다. 기관별 칸막이를 넘어 딥페이크 범죄 통합 지원체계를 구축하겠다는 생각이다.

서울시는 10일 서울 중구 시청에서 서울중앙지검·서울경찰청·서울시교육청과 ‘아동·청소년 딥페이크 공동 대응을 위한 업무협약’을 체결했다.

서울시, 검찰·경찰·교육청과 딥페이크 업무협약

X에 올라온 딥페이크 디스코드, 라인 링크 공유. [사진 X 캡처]

딥페이크 가해자·피해자 상당수가 10대인 만큼 4자 공동협력 체계를 구성한다. 우선, 학교 내에서 범죄·피해를 확인하면 학교가 서울시로 관련 정보를 연계하는 ‘스쿨핫라인(School Hotline)’을 가동한다.

피해자가 직접 딥페이크 범죄에 대응하는 대신, 교사나 학교 전담경찰관이 서울 디지털 성범죄안심지원센터에 의뢰해 피해 사진·영상 삭제를 요청하는 방식이다.

‘학교로 찾아가는 원스톱 통합지원 프로그램’도 운영한다. 서울 디지털 성범죄안심지원센터 피해지원관이 학교나 제3의 장소로 찾아가 영상물 삭제 지원 등 도움을 주는 프로그램이다. 더불어 딥페이크 범죄 피해자가 전문 심리치료를 해야 하는 경우 10차례 전문 상담을 지원한다.

스쿨 핫라인 구축해 딥페이크 영상 신속 삭제

오세훈 서울시장이 10일 서울시청에서 서울중앙지방검찰청 서울시경찰청, 서울특별시교육과 '아동·청소년 딥페이크 공동대응을 위한 업무협약' 체결에 앞서 인사말을 전하고 있다. 사진 왼쪽부터 김봉식 서울경찰청장, 오세훈 서울시장, 이창수 서울중앙지방검찰청 검사장, 설세훈 서울시교육감 권한대행. [사진 서울시]

아울러 서울시와 검찰·경찰 사이 전달 체계를 마련해 피해 정보를 빠르고 안전하게 전달받기로 했다. 기존엔 서울 디지털 성범죄안심지원센터 피해지원관이 영상물을 검찰·경찰에게 직접 받아오는 방식이었다. 하지만 이번 협약을 계기로 2025년부턴 시스템을 통해 서울시가 한꺼번에 영상을 확인하고 불법 영상물을 삭제할 수 있게 됐다.

딥페이크 성범죄 예방을 위한 교육도 강화한다. 서울시와 서울시교육청, 서울경찰청은 딥페이크 성범죄 교육 자료를 제작하기로 했다. 청소년 가해자가 범죄의 심각성을 인지하지 못하고 놀이·장난으로 여기는 사례가 있어서다. 서울 시내 1300여개 학교·시립청소년시설과 협력해 관련 캠페인도 추진한다.

서울중앙지검·서울경찰청은 딥페이크 수사를 강화하고, 아동·청소년 수사 시 서울시 상담원이 동행해 피해자를 보호·지원하기로 했다. 딥페이크 범죄 가해자는 서울검찰청과 연계해 서울시에서 1명당 14회의 가해자 재발 방지 상담을 진행한다.

한편 서울 디지털 성범죄 안심지원센터에 접수한 딥페이크 피해자는 10명(2022년)~17명(2023년) 수준에서 올해 304명으로 대폭 늘었다. 지금까지 접수한 피해자 331명 중 10대가 121명(36.6%), 20대가 108명(32.6%)으로 절반이 넘는다. 가해자 역시 10대가 27명(31.4%)으로 가장 많았다.

가해자와 피해자의 관계는 친구(31명·34.4%)인 경우가 가장 많았다. 모르는 사람(24명·27.0%), 채팅·애인 각 3명(3.3%)이다. 관계를 알 수 없는 경우는 22명(27.0%)이었다.

오세훈 서울시장은 “행정·사법·교육·수사 기관을 망라한 4자 협력체계를 가동해 예방 교육부터 피해 영상물 삭제·차단, 피해자의 일상 회복까지 딥페이크 통합대응체계를 구축한다”며 “딥페이크 범죄로부터 아동·청소년을 지켜내는 방파제가 되겠다”고 말했다.