유튜브 등 주요 플랫폼 기업들이 저품질 인공지능(AI) 콘텐트 단속에 나섰다. AI로 대량 생산된 이른바 ‘AI 슬롭(Slop·쓰레기)’ 콘텐트가 디지털 생태계를 교란하고, 사용자 경험(UX)을 악화하는 악순환을 막고자 칼을 빼든 것이다.

8일 정보통신(IT) 업계와 외신 등에 따르면 최근 유튜브가 저품질 콘텐트 단속을 강화하면서 채널이 삭제되거나 수익 창출이 제한되는 사례가 잇따르고 있다. 미국 IT 매체 더 버지는 온라인 동영상 편집 플랫폼 캡윙(Kapwing)이 발표한 AI 슬롭 채널 사례를 추적한 결과 최소 16개가 폐쇄 또는 활동 정지 상태인 것을 확인했다고 보도했다. 캡윙은 지난해 국가별 상위 유튜브 채널 100개씩, 총 1만5000개 채널의 실태 조사를 발표한 바 있다.

제재를 당한 채널 16개의 동영상 총 조회 수는 47억 회에 달했다. 연간 수익은 약 1000만 달러(약 147억원)로 추산됐다. 전체 조사 대상 채널 가운데 278곳은 사람이 개입하지 않은 AI 저품질 영상을 반복적으로 송출하고 있었다. 이들 채널의 광고 수익은 연간 약 1억1700만 달러(약 1670억원) 수준이었다. 캡윙은 “AI 슬롭은 중독성이 강하기 때문에 유튜브 같은 회사에는 양날의 검”이라고 평가했다. 단기적 관점에서 보면 이용자들을 플랫폼에 끌어모을 수단이 되지만, AI 슬롭이 일으키는 ‘디지털 오염’이 장기적으로 플랫폼 신뢰도를 훼손할 수 있다는 것이다. 저장·트래픽 등 인프라 운영 비용이 증가한다는 점도 기업 입장에서는 부담이다.

유튜브는 올해 4대 핵심 과제 중 하나로 ‘AI 슬롭 대응’을 꼽았다. 닐 모한 유튜브 최고경영자(CEO)는 지난달 21일(현지시간) 공식 블로그를 통해 “저품질·반복형 AI 콘텐트의 확산을 줄이기 위해 적극적으로 노력하고 있다”고 밝혔다. 지난해 7월에는 정책을 업데이트하면서 저품질 양산형 AI 콘텐트들을 수익 창출 대상에서 제외했다.

페이스북·인스타그램 등 소셜미디어(SNS) 플랫폼을 운영하는 메타의 마크 저커버그 CEO는 지난해 10월 “SNS의 콘텐트 제작 주체가 가족·친구 등 지인(1단계), 크리에이터(2단계)에 이어 AI를 중심으로 하는 제3단계에 접어들었다”고 언급한 바 있다. 메타는 사용자들의 업로드 편의성을 높이기 위해 각종 생성 AI 도구들을 출시했지만, 원 게시자의 허가가 없거나 유의미한 수정이 없는 포스팅은 수익 창출을 금지하는 규정을 두고 있다.

캡윙 보고서 따르면 한국은 AI 슬롭 영상을 전 세계에서 가장 많이 소비하는 국가다. 한국 기반 AI 슬롭 채널의 누적 조회 수는 84억5000만 회로 압도적인 세계 1위다. 2위인 파키스탄(53억 회)과 3위 미국(34억 회)을 크게 웃도는 수치다. 최근에는 박세리 전 골프선수와 배우 김승수가 결혼을 발표했다는 가짜 영상이 860만 회가 넘는 조회 수를 기록하기도 했다. 지난 2일에는 경찰 보디캠 영상을 흉내 낸 AI 허위 영상물을 올린 유튜버가 구속되는 일도 있었다.

지난달 22일 시행된 ‘AI 기본법’에는 아직 AI 슬롭에 관한 명시적인 조항이 없다. 국내 플랫폼들은 AI 활용 콘텐트에 대한 자체 규정을 두고 있다. 네이버는 블로그·카페 등에 공유하는 게시물에 ‘AI 활용’ 아이콘을 표시할 수 있는 기능을 마련해 사용을 권장하고 있다. 다음 블로그 티스토리는 AI 등을 통해 짧은 시간에 유사한 글을 다량 작성하면 자동으로 댓글을 삭제하고 있다.