디지털 기기를 들고 있는 사람들의 실루엣 뒤로 유튜브 로고가 보인다. 사진 로이터=연합뉴스

유튜브 등 주요 플랫폼 기업들이 저품질 인공지능(AI) 콘텐트 단속에 나섰다. AI로 대량 생산된 이른바 ‘AI 슬롭(Slop·쓰레기)’ 콘텐트가 디지털 생태계를 교란하고, 사용자 경험(UX)을 악화하는 악순환을 막고자 칼을 빼든 것이다.

8일 정보통신(IT) 업계와 외신 등에 따르면 최근 유튜브가 저품질 콘텐트 단속을 강화하면서 채널이 삭제되거나 수익 창출이 제한되는 사례가 잇따르고 있다. 미국 IT 매체 더 버지는 온라인 동영상 편집 플랫폼 캡윙(Kapwing)이 발표한 AI 슬롭 채널 사례를 추적한 결과, 최소 16개가 폐쇄 또는 활동 정지 상태인 것을 확인했다고 보도했다. 캡윙은 지난해 국가별 상위 유튜브 채널 100개씩, 총 1만5000개 채널에 대한 실태 조사를 발표한 바 있다.

제재를 당한 채널 16개의 동영상 총 조회 수는 47억 회에 달했다. 연간 수익은 약 1000만 달러(약 147억원)로 추산됐다. 전체 조사 대상 채널 가운데 278곳은 사람이 개입하지 않은 AI 저품질 영상을 반복적으로 송출하고 있었다. 이들 채널의 광고 수익은 연간 약 1억1700만 달러(약 1670억 원) 수준이었다.

캡윙은 “AI 슬롭은 (이용자들에게) 중독성이 강하기 때문에 유튜브 같은 회사에는 양날의 검”이라고 평가했다. 단기적 관점에서 보면 이용자들을 플랫폼에 끌어모을 수단이 되지만, AI 슬롭이 일으키는 ‘디지털 오염’이 장기적으로 플랫폼 신뢰도를 훼손할 수 있다는 것이다. 저장·트래픽 등 인프라 운영 비용이 증가한다는 점도 기업 입장에서는 부담이다.

닐 모한 유튜브 최고경영자(CEO)가 2024년 미국 뉴욕 피어57에서 진행된 '메이드 온 유튜브'(Made on youtube)에서 연설하는 모습. 사진 유튜브

유튜브는 올해 4대 핵심 과제 중 하나로 ‘AI 슬롭 대응’을 꼽았다. 닐 모한 유튜브 최고경영자(CEO)는 지난달 21일(현지시간) 공식 블로그를 통해 “저품질·반복형 AI 콘텐트의 확산을 줄이기 위해 적극적으로 노력하고 있다”고 밝혔다. 앞서 유튜브는 지난해 7월 정책을 업데이트하면서 저품질 양산형 콘텐트를 수익 창출 대상에서 제외했다. 내용은 거의 비슷하고 겉모습만 조금씩 다른 내레이션 영상을 반복적으로 업로드하는 채널 등이 대상이다.

페이스북·인스타그램 등 소셜미디어(SNS) 플랫폼을 운영하는 메타의 마크 저커버그 최고경영자(CEO)는 지난해 10월 “SNS의 콘텐트 제작 주체가 가족·친구 등 지인(1단계), 크리에이터(2단계)에 이어 AI를 중심으로 하는 제3단계에 접어들었다”고 언급한 바 있다. 메타는 사용자들의 업로드 편의성을 높이기 위해 각종 생성 AI 도구들을 출시했지만, 원 게시자의 허가가 없거나 유의미한 수정이 없는 포스팅은 수익 창출을 금지하는 규정을 두고 있다. 틱톡은 AI 생성 콘텐트 또는 실제 장면이나 인물로 오해할 수 있을 만한 콘텐트에는 명확한 설명 캡션 등을 부착해야 한다는 방침이 있다.

경찰 바디캠 AI 허위영상물. 사진 경기북부경찰청경찰

캡윙 보고서에 따르면 한국은 AI 슬롭 영상을 전 세계에서 가장 많이 소비하는 국가다. 한국 기반 AI 슬롭 채널의 누적 조회 수는 84억 5000만회로 압도적인 세계 1위다. 2위인 파키스탄(53억회)과 3위 미국(34억회)을 크게 웃도는 수치다. 최근에는 박세리 전 골프선수와 배우 김승수가 결혼을 발표했다는 가짜 영상이 860만 회가 넘는 조회 수를 기록하기도 했다. 지난 2일에는 경찰 보디캠 영상을 흉내 낸 AI 허위 영상물을 올린 유튜버가 구속되는 일도 있었다.

지난달 22일 시행된 ‘AI 기본법’에는 아직 AI 슬롭에 관한 명시적인 조항이 없다. 국내 플랫폼들은 AI 활용 콘텐트에 대한 자체 규정을 두고 있다. 네이버는 블로그·카페 등에 공유하는 게시물에 ‘AI 활용’ 아이콘을 표시할 수 있는 기능을 마련해 사용을 권장하고 있다. 다음 블로그 티스토리는 AI 등을 통해 짧은 시간에 유사한 글을 다량 작성하면 자동으로 댓글을 삭제하고 있다.