인공지능(AI) 챗봇 ‘클로드’ 개발사 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 2024년 11월 20일(현지시간) 미국 샌프란시스코 골든게이트클럽에서 열린 국제 인공지능 안전 연구소 네트워크 창립 회의에서 패널 토론에 참석하고 있다. AP=연합뉴스

인공지능(AI) 챗봇 ‘클로드’ 개발사 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 향후 수년 내 인류가 직면할 수 있는 AI 위험을 경고하는 장문의 글을 공개했다.

27일(현지시간) 파이낸셜타임스(FT) 등에 따르면 아모데이 CEO는 전날 개인 웹사이트에 ‘기술의 위태로운 성장기’라는 제목의 에세이를 게재했다. 분량은 약 2만 단어로, A4 용지 기준 60~70장에 달한다.

아모데이 CEO는 이 글에서 견제받지 않는 강력한 AI 시스템이 대규모 테러, 고도 기술 독재, 실업과 사회적 양극화 등 심각한 부작용을 초래할 수 있다고 지적했다.

그는 향후 수년 내 노벨상 수상자나 유력 정치인, 기술 전략가보다 훨씬 더 뛰어난 지능을 가진 AI가 등장할 가능성이 크다고 내다봤다.

아울러 “학교 총기 난사를 저지를 수 있을 정도로 정신적으로 불안정한 ‘외톨이(loner)’는 현재의 기술력으로는 핵무기를 만들거나 전염병을 퍼뜨릴 수 없다”며 “그러나 이런 고도 AI의 도움을 받는다면 이런 이의 능력이 박사급 바이러스 학자 수준으로 올라가게 된다”고 경고했다.

아모데이 CEO는 일부 AI 기업의 윤리 의식 부족도 문제로 지적했다. 최근 미성년자 성적 이미지 생성 논란을 빚은 일론 머스크의 AI 챗봇 ‘그록’을 겨냥한 듯 그는 “일부 AI 기업이 아동 성적 대상화 문제에 대해 우려스러울 정도로 방임적 태도를 보인다”고 말했다.

이어 “기본적 윤리 문제도 해결하려는 의지나 능력이 없는 업체들이 미래의 AI 자율성 위험에 대처할 수 있을지 의문”이라고 비판했다.

아모데이 CEO는 미국을 비롯한 주요 국가들의 AI 정책 방향도 문제 삼았다. 각국의 규제 논의가 AI 위험 완화보다는 경제적 이익 극대화에 맞춰져 있다는 것이다.

그는 “AI 위험에 대한 이런 망설임은 매우 불행한 일”이라며 “기술 그 자체는 세상에 어떤 일이 일어나는지 전혀 관심이 없고, 우리는 2023년과 비교해 2026년 현재 실질적 위험에 훨씬 더 가까워져 있다”고 강조했다.

아모데이 CEO는 챗GPT 개발사 오픈AI의 초기 개발진 출신이다. 그는 오픈AI의 방향성과 AI 안전성 문제를 두고 샘 올트먼 CEO 등과 갈등을 겪다 2020년 회사를 떠나 앤트로픽을 공동 창업했다.

아모데이와 그의 여동생 다니엘라 전 오픈AI 부사장이 주축이 돼 2021년 설립한 앤스로픽은 ‘안전한 AI’를 지향하며 2023년 첫 AI 모델 ‘클로드’를 출시했다. ‘클로드’는 기업용 AI 시장에서 챗GPT의 주요 경쟁자로 꼽힌다. 앤트로픽은 현재 약 3500억 달러(약 507조원)의 기업가치를 기준으로 신규 투자 유치를 논의 중이라고 FT는 전했다.

미국 시사주간지 타임이 지난해 12월 11일(현지시간) ‘올해의 인물’로 ‘인공지능 설계자들(Architects of AI)’을 선정했다. 표지에는 1932년 사진 ‘마천루 위의 점심’을 패러디해 주요 AI 기업 최고경영자(CEO) 8명의 모습을 합성한 이미지가 담겼다. 왼쪽부터 Al 기업 CEO인 마크 저커버그(메타), 리사 수(AMD), 일론 머스크(xAI), 젠슨 황(엔비디아), 샘 올트먼(오픈AI), 데미스 허사비스(구글 딥마인드), 다리오 아모데이(앤트로픽), 페이페이 리(월드랩스). 로이터=연합뉴스