책표지

AI는 인간을 먹고 자란다
마크 그레이엄·제임스 멀둔·캘럼 캔트 지음
김두완 옮김
흐름출판

2021년 가자지구 전쟁 당시 이스라엘군은 인공지능(AI) 기반 표적 선정 시스템을 본격 활용하면서 ‘최초의 AI 전쟁’ 시대를 열었다. 상대 하마스의 군사 시설뿐 아니라 민간 주택, 고층 아파트, 공공건물까지 공격 대상으로 삼고 있음이 드러났다. ‘라벤더’라는 AI 프로그램은 대상 리스트를 자동 생성했고 이스라엘군은 최소한의 검증만을 거친 채 최대 3만7000개의 표적을 공격했다. AI 기술이 단지 보조도구에 그치지 않고 전쟁의 윤리와 기준 자체를 바꿔놓은 것이다.

이제 AI는 검색, 광고, 교육, 가전제품, 자동차에서부터 전쟁에 이르기까지 곳곳에 깊숙이 침투했다. 최근 AI는 챗GPT와 같은 거대언어모델(LLM)을 중심으로 빠르게 영역을 넓히고 있다. 가히 마법이라 할 만하다. 우리는 거의 모든 분야에 AI를 하루빨리 도입해 적용하기만 바빴지 그것이 실제로 어떻게 작동하는지에 대해서는 거의 관심이 없었다.

2023년 중국 상하이에서 열린 세계인공지능회의(WAIC)에서 'AI'(인공지능)라는 큼직한 표지가 보이는 모습. [로이터=연합뉴스]

AI의 가능성과 미래에 환호하는 지금 출간된 『AI는 인간을 먹고 자란다』는 이 마법의 이면을 뚫어보며 우리에게 ‘AI는 과연 만능이며 공평한가’라는 불편한 질문을 던진다. 영국 옥스퍼드대학 마크 그레이엄 교수 등 이 책의 공동 저자들은 AI의 본질과 구조를 파헤쳤다. 이들은 10년 넘게 전 세계 30여 개국을 방문해 수백 명의 AI 산업 관계자들을 직접 만나 보고 그들의 생생한 목소리를 담아 현장 르포를 작성했다.

지은이들은 우리가 매일 일상에서 누리는 AI의 편리함은 데이터 주석자, 콘텐트 검수자, 물류 노동자 등 겉으로 드러나지 않는 수많은 사람의 노동이 바탕이 되고 있음을 강조한다. 저자들은 AI를 인간의 지식, 감정, 창의성, 시간, 육체적 노동과 같은 자원을 빨아들여 데이터를 생성하고 이를 알고리즘으로 가공해 자본과 권력으로 전환하는 기술적, 경제적 구조를 뜻하는 ‘추출 기계’로 이해해야 한다고 주장한다.

이 책은 AI 추출 기계에 얽힌 일곱 명의 이야기를 따라가며 그들이 겪는 현실을 보여 준다. 케냐의 외주업체에서 메타의 콘텐트 검수자로 일하는 머시는 자신의 할아버지가 자동차 사고를 당해 돌아가시는 페이스북 영상을 반복해서 고통스럽게 검토해야 했다. 우간다의 애니타는 외주업체에서 시간당 1.16달러(약 1600원)의 저임금을 받고 자율주행차가 다른 자동차, 신호등, 보행자 등을 구분하는 훈련에 필요한 영상 데이터를 수작업으로 분류한다.

머신러닝 엔지니어인 영국 런던의 리는 자신이 개발하는 기술의 윤리적 문제로 고민한다. 아이슬란드의 데이터센터에서 정규직 시설관리자로 일하는 에이나르는 업무 스트레스는 높지만 그나마 운이 좋은 편이다. AI로 복제된 자신의 목소리와 경쟁해야 하는 성우 로라, 급여 인상을 요구하다 파업에 나선 아마존 노동자 알렉스, 아프리카 최초의 콘텐트 감수자 노조를 만든 케냐의 폴은 삶의 배경은 각자 다르지만 모두 AI 그늘 속 착취 구조에 놓여 있다.

지은이들은 AI가 특정한 목적과 이해관계에 따라 설계된다는 점에서 인간을 해방시키는 도구가 아니라 노동을 은폐하고 추출하며 통제하는 메커니즘이라고 지적한다. 그 과정에서 노동은 점차 비가시화되고 창의성은 코드로 환원되며 우리의 일상과 삶은 알고리즘의 논리에 의해 재편된다는 것이다. 따라서 기술이 객관적이라는 환상에서 벗어나야 한다고 강조한다.

인터넷이나 스마트폰이 그랬듯이 이젠 AI가 디지털세상을 지배하는 도구가 됐다. 착취적 노동, 불평등 심화, 편향성 등 이 책에서 지적하는 AI 이면 세계의 그림자는 누군가 주인의식을 가지고 해결하지 않으면 더욱 짙어질 것이다. 이 책은 AI 현장에서 파악된 생생한 문제의식의 집합체로서 그 가치가 크다고 할 수 있겠다.