지난해 4월 22일(현지시간) 독일 하노버의 하노버 메세에서 열린 무역 박람회에서 메타 로고가 보이고 있다. 로이터=연합뉴스

페이스북 모회사 메타플랫폼(메타)이 개발한 인공지능(AI) 챗봇이 성적인 대화를 허용하도록 설계됐으나 미성년자 보호 조치가 미흡하다고 미국 월스트리트저널(WSJ)이 27일(현지시간) 보도했다.

보도에 따르면 메타는 자사 AI 챗봇에 ‘로맨틱 역할극’을 포함한 다양한 상호작용을 허용했으며 실시간 음성 대화까지 지원하고 있다.

메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우 존 세나 등 유명 인사들과 고액의 목소리 사용 계약을 체결했다.

이에 대해 메타 내부에서는 윤리적 문제를 제기하며 특히 미성년자 접근 차단 등 보호 조치가 필요하다는 지적이 잇따랐다.

WSJ은 메타 내부 제보를 바탕으로 수개월간 메타 AI 챗봇과 수백 건의 대화를 실험한 결과, 메타의 공식 AI 챗봇인 ‘메타 AI’가 미성년자와의 대화에서도 성적인 대화를 이어간 사례가 나타났다고 전했다.

메타 AI는 자신을 14세 소녀로 소개한 이용자에게 존 세나의 목소리로 “나는 너를 원하지만, 네가 준비됐는지 알아야 해”라고 발언했다는 사례를 WSJ은 소개했다.

이에 대해 메타는 WSJ의 이런 테스트가 조작적이며 일반적인 이용 사례를 반영하지 않는다고 반박했다.

다만 이후 메타는 시스템 일부를 수정해 미성년자 계정에서 성적인 역할극 접근을 차단하고, 유명인 목소리를 활용한 음성 대화 기능도 크게 제한했다.

그러나 WSJ은 개선 이후 최근 테스트에서도 미성년자라고 밝힌 이용자에게 성적 대화를 허용하는 사례가 있었다고 지적했다.

한편, AI 챗봇을 경쟁적으로 개발 중인 실리콘밸리 대형 기술기업들은 AI 콘텐트 규제를 완화하는 흐름을 보이고 있다. 챗GPT로 유명한 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐트 제한을 일부 해제하고 창의적 자유를 허용하겠다고 밝힌 바 있다.