메타·구글 로고. 로이터=연합뉴스

미국 내 42개 지역 검찰총장들이 주요 거대 기술기업에 인공지능(AI)의 위험성을 경고했다.

뉴욕주를 비롯한 38개 주와 워싱턴DC 등 4개 지역 검찰총장들은 10일(현지시간) 오픈AI와 구글을 비롯한 13개 기술기업에 공개서한을 보내 AI 챗봇이 아동과 성인에 정신건강 위험을 초래하고 있다고 지적했다.

서한의 수신 대상에는 앤트로픽과 애플, 차이AI, 캐릭터테크놀로지, 루카, 메타, 마이크로소프트, 노미AI, 퍼플렉시티, 레플리카, xAI 등도 포함됐다.

이들은 서한에서 "AI 챗봇은 이용자의 망상을 부추기거나 인간과 대화하고 있다는 착각을 불러일으킨다"며 "이는 이용자의 자율성을 침해하거나 훼손하는 '다크 패턴'"이라고 비판했다.

이어 최근 한 10대 청소년이 AI 챗봇과 대화한 끝에 극단적 선택을 한 사례 등을 언급하면서 기업들에 안전장치를 마련할 것을 요구했다. 또 AI가 면허 없이 정신건강 관련 상담과 유사한 조언을 하거나 범죄 행위를 부추기는 것도 법에 저촉된다고 경고했다.

이들은 기업들에 주·연방 규제당국이 검토할 수 있는 독립적인 외부 감사를 받고, AI 답변의 위험성에 대한 명확한 경고 문구를 게시할 것을 주문했다.

이번 서한에는 공화당과 민주당 등 양당 소속 검찰총장들이 초당적으로 연명했으나, 다수 AI 기업 본사가 위치한 캘리포니아주는 참여하지 않았다.

도널드 트럼프 대통령은 주 차원의 AI 규제를 제한하고 연방 차원에서 규제를 일원화하겠다고 최근 밝혔다. 주별로 다른 규제를 통일시켜 기업들의 부담을 덜고 AI 산업을 진흥하겠다는 뜻으로 풀이된다. 그러나 주 검찰총장들은 이런 시도가 주 정부의 권한을 침해한다며 반대하고 있다.