전 세계 인공지능(AI) 칩의 90% 이상을 생산하는 엔비디아가 18일(현지시간) 연례 개발자콘퍼런스 GTC 2024에서 차세대 반도체 'B200'과 이를 응용한 AI 플랫폼 'GB200'을 공개했다. 젠슨 황 엔비디아 최고경영자(CEO)는 이날 "새로운 산업혁명을 구동하는 엔진"이라며 새 AI 칩을 소개했다. 이들 제품은 올해 말 출시돼 내년부터 전 세계 주요 AI 데이터 센터에 탑재될 것으로 전망된다.
이날 신제품 공개로 팹리스(반도체 설계전문)인 엔비디아가 반도체 산업 전반에 미칠 영향은 더 커질 것으로 보인다. AI 칩을 중심으로 재편 중인 메모리 시장, TSMC의 독주 속에 삼성전자가 추격하는 파운드리(반도체 위탁생산) 시장이 엔비디아를 중심으로 어떻게 바뀌어갈지 분석했다.
①파운드리
엔비디아의 직전 최신 제품인 H200에 이어 이번 B200도 전 세계 파운드리 시장 1위 TSMC가 생산한다. 엔비디아에 따르면 B200은 TSMC의 4나노미터(㎚·1㎚=10억 분의 1m) 공정에서 만든다. 일각에선 최첨단인 3나노 공정 생산을 점쳤으나 3나노 팹이 포화상태인 TSMC의 생산 능력을 감안해 4나노를 택한 것으로 분석된다. 올해 퀄컴·미디어텍·AMD 등 주요 고객사가 처음으로 3나노 공정으로 칩을 만드는 가운데 4나노 빈자리마저 엔비디아가 선점한 것이다.
업계에서는 지난해 TSMC 파운드리 매출의 11%를 차지한 엔비디아의 비중이 TSMC의 기존 1위 고객사 애플(25%)과 5년 내에 비슷해질 거란 분석이 나온다. 반도체 산업 전문가 댄 니스테드에 따르면 엔비디아는 지난해 처음으로 TSMC의 2위 고객사에 올랐다. 모바일에서 AI 시대로 넘어가며 주도 기업은 애플에서 엔비디아로 바뀌었지만 TSMC 전성기는 계속되는 모양새다.
② HBM
HBM(고대역폭메모리)은 D램을 수직으로 쌓아 저장용량과 전송 속도를 획기적으로 개선한 메모리 반도체다. B200에는 5세대 HBM인 HBM3E가 탑재된다. B200 칩 하나에 총 8개의 HBM3E가 붙는다. 현재 SK하이닉스와 미국 마이크론이 HBM3E를 양산하고 있다. 특히 SK하이닉스는 이날 B200 공개에 맞춰 HBM3E 8단을 세계 최초로 양산해 이달 말부터 공급에 들어간다고 공식적으로 밝혔다. SK하이닉스는 직전 HBM3에 이어 HBM3E도 가장 먼저 엔비디아에 공급하게 됐다.
마이크론 역시 지난달 엔비디아 제품에 탑재될 HBM3E 양산을 시작했다고 주장했지만 업계에서는 SK하이닉스의 공급량·수율이 압도적으로 앞서는 것으로 본다. 시장조사업체 트렌드포스에 따르면 SK하이닉스는 지난해 HBM 시장 점유율 53%를 차지했다.
삼성전자 역시 오는 3분기를 본격적인 HBM3E 양산 시점으로 계획하고 '엔비디아 뚫기' 총력전에 나섰다. 트렌드포스에 따르면 전체 D램 시장에서 HBM 매출 비중은 지난해 8.4%에서 올해 20.1%로 급등할 전망이다. 업계에선 내년까지 이 비중이 50%를 돌파할 것이라고도 본다. HBM 시장의 승자가 D램의 승자, 나아가 메모리 전체의 승자가 될 상황인 만큼 삼성전자·SK하이닉스·마이크론 3사의 사활을 건 경쟁이 예상된다.
③ 패키징
이날 공개된 B200은 기존 크기의 칩 2개를 하나로 묶은 형태였다. 엔비디아의 신형 그래픽처리장치(GPU) 칩과 칩, 그리고 HBM을 하나의 칩으로 묶어 연결하기 위해서는 정교한 첨단 패키징(조립) 기술이 반드시 필요하다. 이 분야 선두는 TSMC로, B200 역시 TSMC의 'CoWoS 기술'을 적용한다. 패키징 기술은 애플·엔비디아가 반도체 생산을 TSMC에 맡기는 가장 큰 이유로 꼽힌다. 패키징 기술을 잘 활용하면 반도체 성능을 끌어올리고 전력 소모를 크게 줄일 수 있다.
이에 애플과 엔비디아 이외에도 주요 고객사들이 자사 최신 칩 생산에 TSMC의 패키징 기술 적용을 원하고 있어, TSMC의 팹 가동률은 100%에 육박하지만 고객사들이 대기줄을 서는 일이 허다하다.
이에 TSMC는 지난해 10월 실적발표에서 "고급 패키징 양산 능력을 2024년까지 2배 이상 늘리겠다"고 발표했다. 그럼에도 패키징 공장이 부족하자 TSMC는 대만에 추가 패키징 공장 2곳을 더 건설하고, 일본에도 패키징 시설을 세우는 방안을 검토하고 있다. 로이터통신은 18일(현지시간) 익명의 소식통을 인용해 TSMC가 일본에 패키징 설비를 구축하는 방안을 검토하고 있다고 전했다. 실제 추진된다면 TSMC가 대만 아닌 해외에 첨단 패키징 라인을 설치하는 것은 이번이 처음이다.