유튜브 채널을 운영하며 경찰관이 112 신고 현장에 출동해 보디캠으로 찍은 것처럼 보이는 인공지능(AI) 허위 영상물을 올린 유튜버가 구속됐다.

경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔다. 경찰은 이런 허위 영상들이 공권력에 대한 국민적 신뢰를 훼손한다고 판단했다.

A씨는 ‘순찰 24시’라는 유튜브 채널을 운영하며 ‘여장남자 여성 탈의실 신고 출동’, ‘중국인 난동 체포 영상’ 등 마치 사건 현장에서 경찰 보디캠으로 찍은 듯한 AI 영상 54개를 제작해 유튜브 채널 등에 게시해 유포한 혐의를 받는다.

A씨는 채널 소개 글에는 ‘실제 경찰과 무관하며 실화 바탕 각색 AI’라고 표시했지만, 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고 AI 제작 영상을 표시하는 워터마크를 지우기도 했다.

경찰 보디캠 AI 허위영상물. 그래픽 경기북부경찰청경찰

조사 결과 영상들은 대부분 챗 GPT나그록 등으로 만들어졌다. 이런 영상물은 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상(숏폼) 형태로 유포되며 총 3000만이 넘는 조회 수를 기록했다. 경찰 관계자는 “초반에 만든 영상은 상당히 어설펐지만, 시간이 지날수록 영상의 질이 향상됐다”고 전했다.

AI 허위영상물 ‘순찰 24시’ 개요도. 그래픽 경기북부경찰청

수사에 착수한 경찰은 A씨가 무허가 사설 선물거래, 해외선물 투자리딩방 등 운영 범죄에 가담해 피해자들의 관심을 끄는 속칭 ‘바람잡이’ 역할을 하고 돈을 받는 방식으로 3000만원을 챙긴 혐의도 적발했다. 또, 유료 구독형 SNS(소셜네트워크서비스) 채널을 운영, 일정 구독료를 받고 41회에 걸쳐 AI 음란물을 제작·판매한 협의도 받는다.

경찰이 경찰 공무원의 112신고 현장 출동 장면을 ‘보디캠 시점’으로 촬영한 것처럼 ’AI 허위영상물'을 제작해 유튜브 채널 등에 게시해 유포한 혐의로 피의자를 체포하고 있다. 사진 경기북북경찰청

경찰은 올해 10월까지를 공동체의 신뢰를 저해하는 허위정보 관련 범죄 집중 단속기간으로 정하고 A씨와 같은 사례 적발에 주력하고 있다. 경찰 관계자는 “허위정보 유포 범죄를 차단하고 향후 더 큰 피해를 방지하기 위해 허위영상물 확보·삭제가 필요하다는 점을 착안, 해당 유튜브 채널에 대한 수사단서를 수집해 피의자를 특정하고 검거했다”고 말했다.