세계 시가총액 5위인 사우디아라비아 국영 기업 아람코는 AI에 투자하고 있다. 로이터=연합뉴스

삼성전자 파운드리에 첨단 인공지능(AI) 칩 제조를 맡긴 미국 반도체 스타트업 그로크(Groq)가 블랙록·시스코·삼성전자 등에서 8800억원 투자를 유치했다. 이 회사는 올해 사우디아라비아와 칩 대량 판매 계약을 맺었다. 엔비디아의 AI 반도체 독점 철옹성이 좀처럼 뚫리지 않는 가운데, 오일 머니의 낙점을 받은 스타트업들이 살아남아 대항마로 커가는 모양새다.

7일 조나단 로스 그로크 최고경영자(CEO)는 중앙일보에 6억4000만 달러(약 8800억원) 시리즈 D 투자 유치를 밝히며 “내년 1분기까지 10만8000개의 언어처리장치(LPU)를 배포할 계획인데, 수요에 따라 연내 150만 개까지 확장할 수 있다”라고 밝혔다.

이번 투자에는 삼성전자 혁신센터(SSIC) 산하 펀드인 삼성캐털리스트펀드가 전략적 투자자로 참여했다. 기업가치로 28억 달러(약 3조8500억원)를 인정받으며 3년 만에 두 배가 됐다. 그로크는 삼성전자가 미국 텍사스 테일러에 짓고 있는 첨단 파운드리 공장 4나노 공정(SF4X)에서 차세대 칩을 생산할 예정이다.

삼성전자가 미국 텍사스 테일러에 짓고 있는 파운드리 생산 기지. 사진 삼성전자

2016년 구글 알파고 이후 AI 전용 하드웨어에 대한 관심이 높아지면서 관련 스타트업들이 속속 등장했다. 구글에서 AI 전용 칩 텐서처리장치(TPU)를 초기 개발한 조나단 로스가 그로크를 창업했고, 이외에도 그래프코어(영국)와 세레브라스·삼바노바(미국) 등이 유니콘(기업가치 10억 달러 이상 비상장사)으로 부상했다.

그러나 기술력을 보유했다고 해서 시장에 안착할 수 있는 건 아니다. 이들은 엔비디아가 장악한 AI 반도체 시장에서 좀처럼 대형 고객을 확보하지 못했다. 영국 정부의 수퍼컴퓨터 구축 사업조차, 영국 기업 그래프코어가 아닌 엔비디아가 수주했을 정도다. 그래프코어는 메타 등으로 기술진이 대거 이직한 뒤 지난달 소프트뱅크에 매각됐다.

지난 3월 사우디아라비아 국영 기업 아람코는 AI 반도체 기업 그로크와 AI 인프라 구축 계약을 맺었다. 사진 아람코

구원의 손길은 중동에서 왔다. AI를 석유 다음의 먹거리로 삼으려는 사우디아라비아·아랍에미리트(UAE) 등이 AI 연산 인프라 구축 등에 지갑을 열고 있다. 그로크는 지난 3월 사우디 국영 석유회사 아람코와 AI 인프라 구축 계약을 맺었다고 밝혔다. 아람코는 세계 시가총액 5위 기업으로, 최근에는 오일머니를 디지털 전환에 투자하고 있다. 앞서 지난해 세레브라스는 UAE 기업 G42와 계약을 맺었는데, 대당 1억 달러(약 1400억원)의 수퍼컴퓨터를 최대 9대까지 구축하는 내용이다. G42는 UAE 왕세제가 소유한 회사로, UAE 국가 차원의 AI 도입을 주도하고 있다.

이들은 ‘중동을 통해 AI 기술·반도체가 중국으로 흘러들어가는 것 아니냐’는 미국 정부의 의혹을 불식시키는 노력도 하고 있다. G42는 마이크로소프트를 경영 참여 투자자로 받아들였고, 세레브라스·그로크는 모든 칩 제조를 미국 내 공장에서 해결한다. 조나단 로스 그로크 CEO는 지난해 중앙일보 인터뷰에서 TSMC가 아닌 삼성 파운드리를 택한 이유에 대해 “미국 내에 4나노 공정 대규모 제조 역량을 갖춘 회사이기 때문”이라고 밝혔다.

조나단 로스 그로크 CEO가 지난해 미국 캘리포니아 마운틴뷰 본사에서 중앙일보와 인터뷰하고 있다. 심서현 기자

그로크의 LPU는 AI 훈련이 아닌 추론(사용자 서비스)에 특화돼 있고, 지연(latency) 없이 AI 모델과 실시간 대화 수준의 속도를 구현한다. 이를 위해 LPU에는 GPU에 들어가는 고대역폭메모리(HBM) 없이, 칩에 내장된 S-RAM만을 메모리로 쓴다. S램은 속도가 빠르지만 용량이 작아 데이터 대량 처리에 불리하다. 하지만 LPU 칩을 대량 연결해 메모리 용량을 늘릴 수 있으며, AI 훈련이 아닌 서비스에 사용한다면 속도와 비용에서 모두 뛰어나다는 게 회사 측 주장이다.

엔비디아가 GPU 시장을 장악한데다 HBM 공급량도 빠듯하기에, 그로크 외에 텐스토렌트·삼바노바 등도 HBM을 아예 쓰지 않거나 탑재량을 줄인 구조의 특화된 AI 칩을 내놓고 있다. 삼성캐털리스트는 텐스토렌트와 삼바노바에도 투자했다. 다만 아직 엔비디아 GPU의 아성에 흠집을 내는 스타트업은 나오지 않은 상태다.