일론 머스크 테슬라 CEO. AP=연합뉴스

테슬라 최고경영자(CEO) 일론 머스크가 자신이 소유한 소셜미디어 X에 카멀라 해리스 미국 부통령에 대한 딥페이크 영상을 공유해 논란이 되고 있다. 현지 매체들은 인공지능(AI) 기술이 정치적으로 악용될 수 있다고 우려했다.

머스크는 26일(현지시간) X에 해리스 부통령의 선거 캠페인 영상처럼 보이는 영상을 공유했다. 해당 영상에서 해리스 부통령과 비슷한 음성의 내레이션이 "저 카멀라 해리스는 조 바이든이 토론에서 노망난 모습을 보인 덕분에 민주당 대선 후보가 됐다"고 말한다. 또 자신이 여성 유색인종이기 때문에 "다양성을 고려해 고용됐다"며 "국가 운영에 대해서는 아무것도 모른다"고 밝힌다.

이는 인공지능(AI)을 이용한 딥페이크(DeepFake) 기술로 만들어진 조작된 '가짜 영상'이었다. 딥페이크는 딥러닝(Deep learning)과 페이크(fake)의 합성어로, 얼굴이나 목소리를 영상에 합성하는 기술이다.

머스크가 올린 영상은 실제로 해리스 부통령이 선거 캠페인을 시작하며 공개한 광고 영상과 유사하다. 원래 영상에 등장하는 도널드 트럼프 전 대통령과 JD 밴스 오하이오주 상원의원의 이미지는 삭제되고, 대신 바이든 대통령의 이미지가 추가됐다. AP 통신에 따르면 전문가들이 이 영상의 음성을 분석한 결과 AI 기술을 사용해 생성된 것으로 확인됐다.

일론 머스크가 게시한 영상(왼쪽)과 카멀라 해리스 미국 부통령 선거 캠페인 영상(오른쪽). 사진 X 캡처

이 영상을 제작한 유튜버 미스터 레이건(Mr Reagan)은 해당 영상이 패러디물이라고 명시했다. 하지만 머스크는 아무런 설명 없이 "대단하다"라는 말과 함께 영상을 공유했다. 머스크의 게시글은 1억 2600만회 이상의 조회 수를 기록했다.

뉴욕타임스(NYT)는 머스크가 X의 정책을 위반한 것으로 보인다고 보도했다. X는 운영 정책에서 "타인을 속이거나 혼란을 야기하고 피해를 유발할 수 있는 합성 또는 조작된 미디어나 맥락을 벗어난 미디어('오해의 소지가 있는 미디어')를 공유해서는 안 된다"라고 명시하고 있다.

윤석열 대통령 모습이 등장하는 가짜 영상. 사진 틱톡 캡처

한국에서도 지난 2021년 대통령 선거에서 딥페이크가 화두가 됐다. 당시 윤석열 국민의힘 대선 후보는 AI 윤석열을 선보였는데, 똑같은 모습의 '가짜 AI 윤석열'이 등장했다. 대선 이후에도 윤석열 대통령을 합성한 가짜 영상들이 확산하며 방상통신심의위원회가 조치에 나서기도 했다.

AP 통신은 "미 대선을 앞두고 실제 같은 AI 생성 이미지와 영상이 정치를 오도하는 데 활용될 수 있다는 것을 보여준다"며 "고품질의 AI 도구가 훨씬 더 쉽게 접근 가능해졌지만 사용을 규제하기 위한 정부의 조치는 부족하다"고 지적했다.

캘리포니아대 버클리캠퍼스의 디지털 포렌식 전문가 하니 파리드는 "대부분 사람이 해리스 부통령의 목소리라고 믿지 않더라도 그녀의 목소리로 된 영상은 훨씬 강력하다"고 말했다.

해리스 부통령 캠프 측은 "우리는 미국 국민이 해리스 부통령이 제공하는 진정한 자유와 기회, 안보를 원한다고 믿는다. 일론 머스크와 도널드 트럼프의 가짜, 조작된 거짓말은 원하지 않는다"고 비판했다.