조르자 멜로니 이탈리아 총리 페이스북 캡처

조르자 멜로니 이탈리아 총리가 인공지능(AI)으로 합성된 자신의 속옷 차림 딥페이크 사진을 직접 공개하며 허위 이미지 위험성을 경고했다.

멜로니 총리는 5일(현지시간) 최근 페이스북과 X(엑스) 등에서 퍼지고 있는 속옷 차림으로 침대에 앉아있는 딥페이크 사진을 올리고 “최근 며칠 동안 AI로 생성된 내 가짜 사진 여러 장이 돌고 있다”며 “일부 집요한 정치적 반대자들이 이를 진짜처럼 속여 퍼뜨렸다”고 밝혔다.

그는 “누가 만들었든 간에 외모를 상당히 개선해주긴 했다”는 농담을 하면서도 “공격하고 허위 사실을 퍼뜨리기 위해 무슨 짓이든 서슴지 않는 사람들이 있다”고 비판했다. 이어 “이건 단순히 나 혼자만의 문제를 넘어선다”며 “누구든 속이고, 조작하고, 공격할 수 있는 위험한 도구”라고 지적했다. 그러면서 “나는 나 자신을 지킬 수 있지만, 많은 다른 사람들은 자신을 방어할 수 없다”고 했다.

멜로디 총리는 “그래서 항상 규칙이 적용되어야한다”며 “믿기 전에 검증하고, 공유하기 전에 먼저 생각하고 확인하라”고 충고했다.

영국 가디언에 따르면 이 조작된 이미지는 온라인에서 빠르게 퍼져나갔고, 이를 진짜로 믿는 네티즌들로부터 거센 비난을 불러일으켰다.

한 네티즌은 “총리가 저런 모습으로 나타나다니 정말 부끄러운 일”이라며 “그녀가 맡은 직책에 어울리지 않는다. 수치심이라고는 눈곱만큼도 없다”라고 썼다.

멜로디 총리는 이날 “오늘 나에게 일어난 일이 내일은 누구에게나 일어날 수 있다”라고 덧붙이며 글을 맺었다.

조르자 멜로니 이탈리아 총리가 4일(현지시간) 아르메니아 예레반에서 열린 제8차 유럽정치공동체(EPC) 정상회의 참석을 위해 도착하고 있다. AFP=연합뉴스

AI와 딥페이크가 제기하는 위험에 대한 대응은 멜로니 정부의 핵심 정책 기조이기도 하다. 지난해 이탈리아는 유럽연합(EU) 회원국 중 최초로 AI 사용에 대한 종합적 규제 법률을 통과시켰다.

가디언에 따르면 이 법률에는 AI 기술을 이용해 딥페이크를 제작하는 등 해악을 끼치는 사람에게 징역형을 부과하고 AI 기술에 대한 14세 미만 아동의 접근을 제한하는 내용 등이 담겼다. 이 법에 따르면 AI로 생성되거나 조작된 콘텐트를 불법으로 배포해 해악을 끼친 자는 1년에서 5년까지의 징역형에 처한다. 사기나 신원도용 등 범죄를 저지르기 위해 AI 기술을 이용하는 자에게는 더 큰 처벌이 내려진다.

이 기술이 직장 혹은 건강, 교육, 사법, 스포츠 등 분야에서 쓰이는 경우 투명성과 인간 감독 규칙을 더욱 엄격히 하도록 하는 내용도 들어 있다. 또 14세 미만 아동이 AI에 접근하려면 부모 동의가 있어야만 한다는 내용도 포함됐다. 저작권 문제에서는 AI의 도움으로 만들어진 작품은 진정한 지적 노력의 산물일 경우에는 보호 대상이 된다.

멜로니 정부는 이 법의 시행을 담당할 주무 부처로 총리실 산하 디지털이탈리아청(AgID)과 국가사이버보안청(ACN)을 지정했다.