빅테크 플랫폼을 필두로 저품질 인공지능(AI) 콘텐트에 대한 제재 움직임이 본격화하고 있다. 유튜브는 지난 15일부터 콘텐트 정책을 업데이트해 비슷한 내용으로 대량 생산되는 저품질 콘텐트들을 수익 창출 대상에서 제외하겠다고 밝혔다. 회사 측은 정책 사이트에서 “대상 콘텐트는 내용은 거의 비슷하고 겉모습만 조금씩 다른 내레이션 영상을 반복적으로 업로드하는 채널, 모든 슬라이드에 동일한 내레이션을 붙여 업로드하는 채널”이라고 설명했다.

페이스북 등을 운영하는 메타도 지난 14일(현지시간) 원 게시자의 허가가 없거나 유의미한 수정이 없는 포스팅은 일정 기간 수익 창출을 금지할 예정이라고 밝혔다. 국내 플랫폼들도 저품질 콘텐트 관리에 나서고 있다. 네이버는 “AI가 작성한 품질이 낮은 글을 막기 위해 AI가 생성한 글의 패턴을 학습해서 유사한 콘텐트를 다량으로 만들어내는 등 행위를 모니터링 및 제재하고 있다”고 밝혔다.

플랫폼들이 너나 할거 없이 AI산(産) 저품질 콘텐트를 규제하는 이유는 다른 사람의 콘텐트를 AI로 짜깁기해 재업로드하거나 AI 음성만 입혀 업로드하는 이른바  ‘AI 슬롭(slop, 쓰레기)’ 콘텐트가 많아지면서, 플랫폼 전체 이용 경험이 악화된다는 지적이 계속되고 있어서다. 메타는 공식 블로그에서 “같은 밈이나 동영상이 너무 자주 반복적으로 나타난다. 이는 모두의 경험을 지루하게 만들고 새로운 목소리가 전달되기 어렵게 만든다”이라고 제재 배경을 밝혔다.

이재성 중앙대 AI학과 교수는 “최근엔 한 가지 영상이 유행하면 AI를 사용해 이와 유사한 분위기로 만든 영상이 범람하는 상황”이라며 “구글 등 빅테크가 이런 AI 콘텐트를 규제하기 시작하면 다른 플랫폼들도 경향을 따라가게 될 것”이라고 전망했다.