◆젠슨 황과 이재용의 겨울=2016년 12월 첫 주 스페인 바르셀로나. 젠슨 황 엔비디아 최고경영자(CEO)는 국제 신경망 학회 뉴립스(NeurIPS) 학회장 밖에서 엔비디아 마케팅 임원과 마주쳤다. ‘발표자도 아닌데 여긴 왜 왔냐’는 질문에 그는 답했다. “배우러 왔죠.” (태 킴, 『엔비디아 레볼루션』)

차준홍 기자

2016년 12월 6일 서울 여의도. 이재용 당시 삼성전자 부회장은 ‘최순실 국정농단 국회 청문회’에 출석해 ‘아는 게 뭐가 있냐?’(박영선 의원), ‘공범인 거 인정하느냐’(안민석 의원)는 질문을 받았다. 이 부회장은 공언했다. “미래전략실을 없애겠습니다.”

2016년 하반기부터 이듬해 상반기까지 ‘AI 폭풍 전야’였다. 챗GPT의 직접적 기반이 된 구글 ‘트랜스포머’ 논문도 이때 나왔다. 이 시기 젠슨 황 CEO는 신경과학 학회나 대학 AI 심포지엄 등에 출몰했다. 이재용 부회장은 ‘박근혜 탄핵 정국’에 휘말려 2017년 2월 구속됐다.

2017년 가을 두 회사는 각각 결과물을 냈다. 엔비디아는 고속 AI 연산 부품인 텐서코어(Tensor Core)를 장착한 첫 그래픽처리장치(GPU) ‘V100’을 출하했다. 삼성전자는 총수 수감과 미래전략실 해체의 공백을 메우기 위해, 정현호 사장이 이끄는 조정·총괄 조직 사업지원TF를 신설했다.

신재민 기자

◆삼성이 HBM3 개발 늦은 이유=“그랜저가 100만 대씩 팔려 나가는데, 스포츠카 10대 만들어 달라는 주문이 눈에 들어오겠어요? 그게 HBM3(4세대) 개발 직전 삼성입니다.”(삼성전자 전직 임원) 메모리 호황의 정점인 2018년 즈음, 삼성전자와 SK하이닉스는 HBM3 사업을 놓고 고민했다. 개발 난이도는 높고 매출 규모는 작은 사업이었다.

삼성은 HBM3보다 모바일용 D램 위주로 개발 인력을 투입했다. 당시 사정을 잘 아는 인사는 “HBM은 개발 인력은 일반 제품의 3배가 드는데 매출 비중(%)은 한 자릿수였고, 임원 성과에서는 매출이 중요했다”고 말했다. “HBM은 GPU와 붙어 나오는 제품이라 개발 시기를 놓치면 따라잡기 어렵다”는 의견이 현업 부서에서 나왔지만 묵살됐다.

SK하이닉스는 HBM3 개발에 다시 전력을 기울이기로 했다. ‘규모의 싸움’인 일반 메모리에서 1등할 가능성이 적으니, 작은 시장인 HBM에서 먹거리를 찾으려 했던 것.

HBM이란? 그래픽 이미지. [자료제공=SK하이닉스]

◆젠슨 황의 ‘메모리 조련’=2018년쯤 SK하이닉스는 HBM 검증 과정에서 TSMC의 소극적 대응으로 애를 먹었다. HBM을 패키징해야 하는 TSMC가 “우리는 당신들의 R&D 센터가 아니다”며 검증에 비협조적이었던 것. 당시 박성욱 SK하이닉스 부회장 등 최고경영진이 엔비디아에 호소한 후에야 TSMC의 태도가 달라졌다. 당시 상황을 아는 이들은 “엔비디아는 (SK하이닉스 이외의) HBM 공급사를 늘리려는 의지가 확실했다”고 말한다.

HBM2E(3세대)까지 엔비디아 HBM의 1차 공급사였던 삼성은 HBM3 개발에 미적지근했다. 엔비디아의 가려운 데를 긁어준 건 SK하이닉스였다. 2021년 10월 HBM3 개발에 성공해, 이듬해 6월 대량 양산을 시작했다.

2021년께 삼성전자도 HBM3 개발에 나섰지만 투입 인력이 많지 않았다. 무엇보다 HBM의 2등은 일반 메모리의 2등과는 달랐다. 범용 메모리는 JEDEC(국제반도체표준협의회) 표준대로 만들면 후발 주자도 납품이 어렵지 않았다. 그러나 HBM은 규격과 성능(대역폭, 용량, 속도)의 표준대로 만들어도, ‘열이 OO도까지 오른다’거나 ‘전력 소비가 많다’는 등 ‘특성’에서 퇴짜 맞기 일쑤였다.

김경진 기자

HBM은 GPU와 함께 패키징하기에, 처음 최적화에 성공한 HBM 제품이 ‘표준’이 됐다. 한발 늦게 ‘우리 것도 써달라’는 기업을 위해 엔비디아나 TSMC가 설계·공정을 바꿔줄 리 없었다. 삼성은 ‘전부 혹은 전무(All or Nothing)’라는 HBM 시장 원리를 뒤늦게 마주했다. 2023년 메모리 한파가 오자, 삼성 HBM 문제는 외부로 드러났다. 그해 삼성 반도체는 매 분기 영업적자를 냈지만, HBM 수요 폭발로 SK하이닉스는 연말부터 매출이 급증했다.

삼성은 2024년 전영현 DS부문장(부회장) 취임 후 HBM 개발팀을 대거 보강했다. 그러나 복수의 관계자에 따르면, 삼성 HBM3E(5세대)의 엔비디아 납품은 ‘퀄(품질)’의 차원을 떠나 이제 단가의 문제가 됐다. SK하이닉스 말고도 또다른 후발주자 마이크론까지 있는 상황에서 엔비디아가 삼성에 좋은 값을 쳐줄 이유가 없기 때문. 제품력이 압도적이지 않다면 젠슨 황의 ‘가격 조련’을 벗어나기 어렵다.

◆표준의 인텔, 특성의 엔비디아=“삼성은 설계를 새로 해야 한다.” 지난 1월 CES 2025에서 젠슨 황 CEO는 삼성 HBM에 대해 이렇게 말했다.

한동안 ‘삼성 HBM은 후공정이 문제’라는 주장이 대세였다. 그러나 지난해 5월 전영현 DS부문장 취임 후 기류가 달라져, 그해 가을 전 부회장은 “D램 개발 방식을 원점에서 재검토하라”고 지시했다. 이후 젠슨 황도 ‘삼성 설계 문제’를 언급한 거다. 지난 연말 삼성글로벌리서치 경영진단실은 과거 HBM 개발 과정을 감사했고, 이후 문책성 인사도 이뤄졌다.

전직 삼성전자 임원들은 이렇게 지적한다. “D램이 잘못됐다는 건, 삼성의 ‘비용 중심’ 전략이 잘못됐다는 거다. 짜여진 생산 비용에 맞춰 D램을 설계하면 전력·열 같은 특성을 희생하게 된다.” “인텔이 자세한 설명서를 뿌린다면, 엔비디아는 큰 그림만 보여준다. ‘표준대로 만들면 되는’ 시대는 다시 오지 않을 거다.”

대량 생산능력으로 범용 메모리 시장을 압도한 삼성의 전략은 HBM같은 고부가가치 메모리에서는 안 맞는다는 얘기다. 또한 인텔 중앙처리장치(CPU)의 시대에는 기술 표준과 범용성·호환성이 중요했으나, 엔비디아는 AI 시스템 성능을 높이기 위해 독자 기술을 사용하기에, 메모리도 기술적 다양성과 유연성이 필요하다는 거다.

◆HBM의 미래는=세계반도체무역통계기구(WSTS)는 올해와 내년 메모리 반도체 성장률이 각각 11.7%와 16.2%로, 전체 반도체 시장 성장세(11.2%, 8.5%)보다 높을 거라고 봤다. 김정호 KAIST 전기및전자공학부 교수는 “AI 컴퓨팅에서 가장 바쁜 건 HBM”이라고 했고, 김창욱 보스턴컨설팅그룹 파트너는 “최소 10년간은 HBM 없이 AI 학습·추론을 할 방법은 없다”고 했다.

HBM 시장은 유망하지만 문제는 한국이 가져갈 몫이다. D램 3위인 미국 마이크론은 지난 11일 HBM4(6세대) 샘플을 고객사에 돌리기 시작했고, 지난해부터 대만에 HBM 설비 투자를 늘리고 있다. 대만에서 엔비디아-TSMC-마이크론 삼각 편대가 짜여질 수 있다. 권석준 성균관대 화공학부 교수는 “TSMC나 엔비디아가 자체적으로 메모리 공급망을 만들겠다고 하면 한국이 견제할 방법은 없는 게 사실”이라고 진단했다.

지금 한국 메모리는 AI 시대에 ‘대체 불가능 존재’가 될 것이냐, ‘공급사 중 하나’가 될 것이냐 기로에 섰다. 이주완 인더스트리 애널리스트는 “설계 역량을 높여 시스템 반도체 기업과 대등한 파트너가 돼야 한다”고 했다. 권 교수는 “차세대 메모리 국가 R&D 프로그램을 확충하고, 메모리 팹리스(설계 전문)가 나오도록 공적으로 운영되는 메모리 파운드리를 만들어야 한다”라고 제안했다.

가장 거대한 시설로 가장 미세한 제품을 만드는 반도체 산업 뒤에는 인간사 오욕칠정이 다 숨어 있습니다. 한국을 넘어 세계 기업과 관계 속에서의 K반도체 산업을, 딱딱한 기술이 아닌 사람의 이야기로, 과거가 아닌 현재와 미래를 중점으로 들려드립니다.

젠슨황 “삼성과 만든 기적” 그랬던 HBM, 9년간 무슨 일
https://www.joongang.co.kr/article/25339954

“바람을 피워도, 하필 걔였니?” 하이닉스·한미 ‘사랑과 전쟁’
https://www.joongang.co.kr/article/25345037

젠슨황 AI로 달려간 그때…삼성 이재용이 불려간 곳
https://www.joongang.co.kr/article/25343292