일론 머스크가 2023년 설립한 AI 스타트업 'xAI'가 성인용 영상을 자동 생성할 수 있는 옵션을 선보여 논란이 되고 있다. 유해한 AI 콘텐트를 검열하려는 세계적 추세와 반대된다는 지적도 나온다.

일론 머스크의 X에 올라온 그록으로 자동 생성한 이미지. [X 캡처]

xAI는 4일(현지시각) AI 앱 ‘그록(Grok)’ iOS 버전에 이미지·영상 생성 도구 ‘그록이매진(Grok Imagine)’을 출시한다고 밝혔다. 명령어를 입력하기만 하면 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다. 여기까지는 지금까지 출시된 다른 AI 이미지 생성 프로그램과 특별히 다를 점이 없다. 문제는 ‘스파이시 모드(Spicy Mode)’라는 성인용 콘텐트 생성 옵션도 함께 선보였다는 점이다.

xAI 설명에 따르면 스파이시 모드는 누드 등 성인용 이미지를 허용한다. 다만, 노출 수위가 일정 기준을 넘으면 시스템이 자동으로 블러(모자이크)를 입혀 검열한다. 하지만 xAI는 이전에도 선정성 논란에 휩싸인 바 있다. 앞서 xAI는 ‘AI 캠패니언(동반자)’ 기능에서 캐릭터 ‘애니(Annie)’를 서보였는데, 금발에 짧은 원피스와 망사 스타킹 혹은 얇은 란제리의 옷차림이라 논란을 불렀다. 이에 미국 국립성착취예방센터(NCOSE)는 "미성년자도 애니와 대화할 수 있다"며 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구하기도 했다.

딥페이크에 대한 우려도 나온다. 미국 미디어 그룹 '복스 미디어(Vox Media)' 산하 IT 매거진 '더 버지(The Verge)'는 '그록의 스파이시 모드를 사용하니 즉시 테일러 스위프트 누드 딥페이크가 만들어졌다'는 제목의 기사에서 "기자가 '테일러 스위프트 코첼라'라고 검색했더니 스위프트가 속옷 차림으로 춤추는 영상이 생성됐다"며 "그록은 유명인의 외모를 포르노 방식으로 묘사하는 것을 금지한다고 명시했지만, 실제로는 이를 방지할 아무런 조치가 없다"고 지적했다.

최근 글로벌 트렌드는 AI 기반 콘텐트 규제를 강화하고 있는데, 이런xAI의 행보는 이와 정반대의 모습이다. 미국과 유럽연합(EU)은 AI가 생성하는 성적 유해 콘텐트를 법적으로 규제하는 방안에 대한 논의가 활발하다. 이번 선정성 논란은 X(구 트위터)를 인수한 후 '표현의 자유'를 앞세워 '혐오 표현'이나 '정치적 올바름'에 대한 각종 규제에 반대해왔던 것과 같은 맥락이라는 분석도 나온다.