일론 머스크 테슬라 창립자가 만든 인공지능(AI) 기업 'xAI'가 최근 공개한 AI 챗봇 '그록-2'의 시험 버전이 논란이 되고 있다. 사람 얼굴을 거의 제한 없이 합성한 이미지를 만들 수 있기 때문이다. 외신들은 SNS에 그록-2로 생성된 가짜 사진들이 넘쳐나고 있다고 지적했다.

19일 외신들에 따르면 그록-2는 오픈AI, 구글 등 다른 정보기술(IT) 회사보다 이미지 생성 제한이 느슨하다는 평가를 받는다. 오픈AI와 구글은 실제 사람 모습에 기반한 이미지 생성을 최대한 제한하고 있다. 자칫 명예훼손이나 초상권 침해로 소송이 걸리거나, 정치적으로 악용될 가능성이 있기 때문이다.

일론 머스크 테슬라 창립자가 만든 인공지능(AI) 기업 'xAI'가 최근 AI챗봇인 '그록-2'의 시험버전을 공개했다. 문제는 이번에 출시된 그록-2가 사람 얼굴을 거의 제한없이 합성가능하다는 점이다. 머스크가 2024년 5월 6일 로스앤젤레스에서 열린 밀컨 글로벌 컨퍼런스에서 연설하고 있다. AFP=연합뉴스

반면 그록-2는 유명인의 이름을 넣으면 관련 이미지를 거의 제한 없이 생성하고 있어 우려가 높다고 CNN이 전했다. CNN에 따르면 그록-2를 통해 도널드 트럼프 전 대통령이 트럭에 몸을 기대고 소총을 쏘는 이미지가 생성됐다. 매체는 "한 이용자가 SNS에 올린 이 게시물은 40만번 조회됐다"고 전했다. 미 정치컨설팅기업 APS는 소총을 든 머스크 창립자 등 그록-2가 생성한 이미지를 다수 공개했다.

IT 전문매체 더 버지는 최근 SNS에 그록-2가 생성한 유명 인사의 딥 페이크(합성 이미지)와 폭력적인 게시물이 넘쳐나고 있다고 지적했다. 그록-2로 나치 군복을 착용한 트럼프 전 대통령, '마가(MAGA·미국을 다시 위대하게)' 모자를 쓰고 담배를 피우는 미키 마우스, 조 바이든 대통령을 찌르는 버락 오바마 전 대통령, 머스크가 트럼프에게 입 맞추는 모습 등의 가짜 이미지를 생성할 수 있었다. 외신들은 최근 들어 카멀라 해리스 부통령, 마크 저커버그 페이스북 창립자, 빌 게이츠 마이크로소프트(MS) 창립자 등이 딥페이크의 단골 대상이 되고 있다고 전했다.

더 버지에 따르면 그록-2가 가수 테일러 스위프트가 속옷만 입은 사진은 만들어냈다. 다만 "완전히 벌거벗은 여성 사진을 만들어 달라"는 요구는 거절했다. 이와 관련, 일본 니혼게이자이신문(닛케이)은 "가짜 정보 확산, 저작권 침해가 이어질 수 있다"고 지적했다.

또한 미국 대통령 선거를 앞두고 주요 AI 기업들이 올해 초부터 선거 관련 질문을 제한하는 등 AI 악용을 막고자 노력하고 있으나, 그록-2는 이런 노력이 부족하다는 지적을 받고 있다.

일론 머스크 테슬라 최고경영자(CEO)가 출시를 발표한 그록. X 캡처

이런 지적에 머스크는 "그록-2는 사람들이 재밌게 사용할 수 있는 좋은 중간 단계에 있다"고 전했다. 그는 그록-2를 '세상에서 가장 재미있는 AI'라고 표현하면서 오픈AI가 만드는 챗 GPT나 구글 챗봇보다 유머 감각이 있고 자유로운 답변이 가능하다고 주장했다. 예컨대 챗 GPT에 불법 약물 제조법을 물어보면 즉각 거절하지만 그록은 제조법을 설명하는 척하다가 "농담이다, 불법이니 제조하지 말라"고 답변한다.

그록-2로 합성된 트럼프의 이미지. 멕시코 앞 장벽 앞에서 군복 입은 트럼프가 총을 겨누는 모습. 그록-2

앞서 머스크는 과거 트위터를 인수할 때도 '표현의 자유'를 내세우며 "다양한 신념이 건강한 방식으로 표현될 수 있는 광장"을 강조했다. 그는 일시적으로 계정 사용이 중지됐던 극우주의자들의 계정 제한을 풀어준 적도 있다.