인공지능(AI)이 사용자의 자해 위험을 감지해 미리 지정한 주변 사람들에게 알림을 보낼 수 있는 기능이 챗GPT에 추가됐다.

샘 올트먼 오픈AI 최고경영자(CEO)가 지난 4일(현지시간) 미국 캘리포니아주 오클랜드 연방 법원에서 열린 오픈AI의 영리 법인 전환 관련 소송 재판의 휴정 시간에 법원 복도를 걷고 있다. 로이터=연합뉴스

10일 정보통신기술(ICT) 업계에 따르면 오픈AI는 지난 7일(현지시간)부터 챗GPT에 이 같은 ‘안심 연락처’(Trusted Contact) 기능을 단계적으로 도입한다. 기존엔 청소년 계정에서 심각한 위기 징후가 감지될 때 부모나 보호자가 알림을 받을 수 있는 기능만 있었다. 이번 기능 추가로 성인 사용자도 비슷한 기능을 이용할 수 있게 됐다.

성인 사용자가 이 기능을 이용하려면 챗GPT에 가족과 보호자, 지인 중 1명을 ‘안심 연락처’로 미리 지정해야 한다. 지정된 사람에게는 자신의 역할을 설명하는 초대장이 발송되며, 1주일 이내에 해당 초대장을 수락해야 기능이 활성화된다.

이후 사용자가 챗GPT와 자해 등 심각한 안전 문제를 암시하는 대화를 나누게 될 경우 사전에 지정된 사람에게 알림이 전송된다. 사용자의 개인 정보 보호를 위해 채팅 세부 정보나 대화 기록은 공유되지 않는다는 게 오픈AI의 설명이다.

오픈AI는 “챗GPT는 자살이나 자해 관련 내용을 제공하지 않도록 훈련됐다”며 “안심 연락처 기능은 어려운 순간에 사람들을 돕는 AI 시스템을 구축하려는 광범위한 노력의 일환”이라고 설명했다.

앞서 오픈AI는 챗GPT가 사용자의 자살이나 타인 대상 범죄 등을 조장했다는 이유로 여러 건의 소송을 당한 바 있다. 지난해 8월엔 미국 캘리포니아주의 16세 소년 애덤 레인의 유족이 챗GPT가 아들의 극단적 선택을 도왔다며 소송을 제기했다. 지난 2월 캐나다에서 발생한 총기 난사 사건과 관련해서도 유가족들은 오픈AI가 총격범의 위험성을 인지했음에도 이를 경찰에 알리지 않아 참사가 발생했다고 주장하며 미국 연방 법원에 소송을 냈다.