오혜정 디자이너

빛이 있으면 그림자도 있습니다. 생성 인공지능(AI)의 발전으로 인한 눈부신 혁신 이면에는 딥페이크, 딥보이스 등 AI를 이용한 범죄들이 나타나고 있습니다. 편견을 재생산하는 AI도 나오고 있습니다. 이를 막기 위해 전 세계적으로 ‘AI 안전성’, ‘AI 윤리’에 대한 논의가 급부상하고 있습니다. 영국 등 해외에서는 AI 안전연구소가 만들어지고 있고, 한국에서도 과학기술정보통신부가 연내 AI 안전연구소를 설립할 예정입니다.

윤송이 엔씨문화재단 이사장은 이와 같은 AI 안전성이나 AI 윤리 분야에 ‘진심’인 연구자입니다. 지난 6월 한국과학기술원(KAIST)과 ‘페어(FAIR) AI 2024’ 컨퍼런스를 열었습니다. AI 기술의 올바른 개발과 사용을 위해 필수적인 ‘AI 윤리’를 집중적으로 조명한 행사였습니다. 이 행사는 윤 이사장은 물론, AI 윤리 분야 석학들인 아구스틴 라요 MIT 인문예술사회과학대학 학장, 제임스 랜데이 스탠퍼드대 HAI 공동소장, 메흐란 사하미 스탠퍼드대 컴퓨터공학과 교수가 참석했습니다.

윤송이 NC문화재단 이사장이 중앙일보와 인터뷰를 하고 있다. 장진영 기자.

윤 이사장이 지금 AI 윤리를 강조하는 이유는 현 시점이 거대한 변화로 이어지는 ‘변곡점’이라는 판단 때문입니다. 그는 중앙일보와의 인터뷰에서 “AI는 인터넷과 같은 범용 기술로서 우리 사회와 사람들의 생활양식, 사업하는 방법 등에 정말 많은 영향을 미칠 것”이라며 “이 시점에 AI가 사회적 편향을 확대재생산할 가능성이 크기 때문에 대비해야 한다”고 강조했습니다.

AI는 우리 사회에 기회일까요, 위기일까요. 함께 인터뷰에 참여한 제임스 랜데이 스탠퍼드대 교수는 AI가 가져올 4가지 위협에 대비해야한다고 강조했습니다. 허위정보(disinformation), 딥페이크(deepfake·실제 같은 합성 이미지, 영상), 편향으로 생길 수 있는 차별(discrimination), 일자리 대체 현상(displacement of jobs) 입니다. 그는 “이 4가지 사항에 대해 분명한 우려가 있는 만큼 어떤 결과를 가져올지 예측하고 대책을 마련하는 게 필요하다”고 말했습니다. 그는 세간에서 얘기하는 ‘킬러로봇’에 대해선 “그건 소설에나 나오는 환상”이라며 “오히려 그걸 강조하는 사람은 실제 AI가 가져올 진짜 위협으로부터 사람들의 주의를 돌리는 것이라고 생각한다”고 경고했습니다.