애플의 선택이 엔비디아가 독점 중인 인공지능(AI) 학습용 반도체 시장에 균열을 낼 수 있을까. 애플이 아이폰 등 자사 기기에 장착할 AI 모델을 학습시키는데 엔비디아의 그래픽처리장치(GPU)가 아닌 구글이 설계한 텐서 처리 장치(Tensor Processing Unit·TPU)를 택했다.

애플은 29일(현지시간) ‘애플 인텔리전스 파운데이션 언어 모델(AFM)’이란 제목의 47쪽 분량 논문을 공개했다. 이 논문에서 애플은 AFM 온디바이스와 AFM 서버 모델에 대해 “클라우드 TPU로 학습시켰다”고 밝혔다. 논문에서 구글을 직접 거론하지는 않았지만, 2015년부터 구글이 자체 설계해온 AI 반도체 TPU를 사용했다는 점을 언급했다. 엔비디아 GPU로 학습시키지 않았다는 점을 우회적으로 드러낸 셈이다. 애플은 논문에서 “TPU를 통해 AFM 온디바이스와 AFM 서버, 그리고 두 모델보다 훨씬 더 크고 정교한 모델을 만들 수 있을 것”이라고 밝혔다.

김경진 기자

TPU는 AI 모델 학습과 추론이 모두 가능한 AI 반도체다. AI 반도체는 용도에 따라 AI 모델 구축 및 훈련에 사용되는 학습용과 이미 학습된 AI 모델을 기반으로 정교한 결과를 생성하는 데 최적화된 추론용으로 나뉜다. AI반도체 업계에선 현재까지 학습용 AI 반도체 분야에서 엔비디아 GPU와 맞설 적수가 없다고 본다. 미국 투자 전문매체 더 모틀리 풀(The Motley Fool)은 “엔비디아는 AI 학습용 반도체 시장의 약 98%를 점유하고 있고, 경쟁사들은 거의 점유율을 확보하지 못하고 있다”고 분석했다. 이 때문에 후발 주자들은 추론용 AI 반도체인 신경망 처리 장치(NPU) 개발에 집중해 틈새 시장을 공략하고 있다.

이런 상황에서 애플이 엔비디아의 GPU가 아닌 구글의 TPU를 선택했다. 업계에선 학습용 AI 반도체 시장에 일어날 변화의 신호탄으로 이를 해석한다. 미 경제 매체 CNBC 방송은 “오픈AI, 마이크로소프트, 앤스로픽 등은 모두 자사 AI 모델 학습에 엔비디아의 GPU를 사용하고 있는 상황”이라며 “(이번 애플의 발표는) 빅테크 기업들이 최첨단 AI 훈련과 관련해 엔비디아의 대안을 찾고 있다는 신호”라고 분석했다. 국내 AI 반도체 업체 한 고위 임원은 “구글이 본격적으로 외부 고객용 TPU를 제공하기 시작하면서 엔비디아의 지위가 공고했던 학습용 AI 반도체 시장에 변화가 생길 것”이라고 말했다.

빅테크들이 탈 엔비디아를 시도하는 건 비싼 비용과 공급 부족 문제 때문이다. 엔비디아 GPU의 개당 가격은 3만~4만 달러에 달할 정도로 비싸다. 하지만 AI 붐을 타고 품귀 현상까지 벌어지고 있다. 빅테크들도 사실상 GPU를 ‘배급’ 받아야 하는 처지다. 반면 클라우드 형태로 제공되는 구글의 최신 TPU의 경우 칩을 사용하는 데 시간당 2달러 미만이다.

빅테크들은 자체 AI 반도체도 개발 중이다. 애플은 TSMC와 손잡고 GPU를 대체할 추론용 AI 반도체를 개발 중이다. 지난 5월 월스트리트저널(WSJ) 등 외신은 애플이 수년 전부터 데이터센터용 AI 반도체를 개발하기 위한 프로젝트의 일환으로 내부코드명 ‘ACDC’를 진행해 왔다고 보도한 바 있다. 오픈AI도 최근 새로운 AI 반도체 개발을 위해 사내 전담팀을 만들고, 미국 반도체 회사 브로드컴과 협력을 논의 중이다. 소프트뱅크는 지난 11일 영국 AI 반도체 스타트업 그래프코어를 인수했다.