진화하는 엔비디아 슈퍼칩…HBM 승부도 이어진다

엔비디아, 블랙웰 이을 차세대 GPU 루빈 공개

AMD·인텔도 자사 신제품으로 엔비디아 추격

차세대 HBM 공급 중요해져…3사 HBM 공급물량 관심

젠슨 황 엔비디아 최고경영자(CEO)가 지난 2일 타이베이 국립대만대 종합체육관에서 한 '컴퓨텍스 2024' 기조연설에서 올 하반기 출시할 AI가속기 '블랙웰' 제품을 선보이고 있다.ⓒ로이터/연합뉴스

AI(인공지능) 시대가 개화하면서 AI 가속기도 '괴물급'으로 진화하고 있다. 용량은 늘어나고 속도는 더 빨라졌다. 엔비디아, AMD가 나란히 공개한 AI 칩의 공통점이기도 하다.

괴물급 AI 가속기가 탄생하려면 GPU(그래픽처리장치) 속도와 성능을 높여줄 HBM(고대역폭메모리)이 필요하다. 차세대 HBM 개발에 삼성·SK·마이크론이 모두 뛰어들면서 HBM 공급 전쟁은 새로운 국면을 맞이했다.

5일 업계에 따르면 대만 타이베이에서 오는 7일까지 열리는 테크 엑스포 '컴퓨텍스 2024'에서 엔비디아와 AMD는 신제품 라인업을 앞 다퉈 공개했다.

엔비디아는 GPU 기술 로드맵을 소개하며 차세대 GPU '루빈'(Rubin)을 처음으로 소개했다. 지난 3월 블랙웰(Blackwell) 플랫폼을 발표한 지 3개월도 채 되기 전에 후속작을 공개한 것이다. 루빈은 우주 암흑물질과 은하 회전 속도를 연구한 미국 천문학자 베라 루빈의 이름에서 따왔다.

황 CEO는 루빈 사양에 대한 자세한 언급을 자제했지만, 업계는 학습·추론 능력을 이전 세대 보다 대폭 끌어올렸을 것으로 추정한다. 새로운 설계를 적용한 신형 GPU 플랫폼 루빈은 2년 뒤인 2026년 출시된다. 앞서 발표한 블랙웰 기반의 'B100'은 올 3분기부터 양산된다.

주목할 만한 것은 엔비디아의 AI칩 로드맵이다. 엔비디아는 2020년 암페어 기반의 'A100', 2022년엔 호퍼 기반의 'H100', 2024년 3월엔 블랙웰 기반의 'B100·B200'을 공개했었다.

젠슨 황 엔비디아 CEO는 이 2년 단위의 신제품 도입 시기를 단축하겠다고 했다. 이에 따라 블랙웰(2024년), 블랙웰 울트라(2025년), 루빈(2026년), 루빈 울트라(2027년) 순으로 엔비디아의 AI 칩이 나오게 된다.

그는 "엔비디아 리듬은 1년 주기"라며 "기본 철학은 1년 주기로 구성 부품을 판매하며 모든 것을 기술의 한계까지 밀어붙이는 것"이라고 밝혔다. 불붙고 있는 AI칩 경쟁에서 도전자들을 물리치고 우위를 지키겠다는 전략으로 풀이된다.

리사 수 AMD 최고경영자(CEO).AMD 홈페이지 캡처

실제 경쟁사들의 도전은 만만치 않다. AMD는 같은 행사인 컴퓨텍스에서 AI 가속기 'MI325X'를 올 4분기 출시하겠다고 밝혔다. 이 제품은 업계 최대인 288GB(기가바이트) 용량에 5세대 HBM인 HBM3E를 탑재했다.

리사 수 AMD CEO는 신제품 공개 자리에서 "엔비디아 B200 보다 1.5배 많은 용량과 1.2배 빠른 성능을 갖췄다"며 자신감을 표했다.

AMD는 엔비디아처럼 매년 신제품을 내놓을 예정이다. 2025년에는 3nm(나노미터·1nm=10억분의 1m) 공정으로 제조되는 MI350을, 2026년에는 MI400을 차례로 내놓는다.

인텔도 AI칩 승부수를 던졌다. 팻 겔싱어 인텔 CEO는 자사의 AI 가속기인 '가우디3'를 엔비디아 제품(H100)의 3분의 2 가격에 공급하겠다고 선언했다. 그는 "4월 출시한 가우디3는 경쟁사 AI용 GPU 가격의 3분의 2 수준이고 전작인 가우디2는 3분의 1 수준에 공급하고 있다"면서 가우디3가 엔비디아 H100 보다 훈련·추론 성능이 뛰어나다고 피력했다.

AI칩 시장의 80% 이상을 장악한 엔비디아를 비롯해 경쟁사들도 AI 가속기 로드맵을 속속 내놓으면서 차세대 HBM 수요는 더욱 가팔라질 것으로 예상된다.

엔비디아의 블랙웰에는 8단 HBM3E 8개가 탑재되며, 블랙웰 울트라에는 12단 HBM3E 8개가 적용된다. 후속작인 루빈에는 6세대 HBM인 HBM4 8개가, 루빈 울트라에는 HBM4 12개가 탑재된다.

AMD의 경우 MI325X 용량이 288GB임을 감안하면 엔비디아 H200에 탑재되는 HBM3E 보다 많은 HBM이 투입될 전망이다. 리사 수 CEO는 "MI325X는 엔비디아 H200보다 2배 더 많은 메모리를 확보하고 30% 더 빠른 컴퓨팅 속도를 제공한다"고 언급했다.

SK하이닉스 곽노정 대표이사 사장이 5월 2일 이천 본사에서 ‘AI시대, SK하이닉스 비전과 전략’을 주제로 기자 간담회를 진행하고 있다.ⓒSK하이닉스

보다 높은 성능을 갖춘 HBM 물량 증가가 예상되면서 삼성전자, SK하이닉스, 마이크론의 경쟁도 한층 치열해질 전망이다.

현재 HBM 시장 주도권은 SK하이닉스가 잡고 있다. 엔비디아에 HBM3를 사실상 독점 공급해왔으며 지난 3월부터는 HBM3E 8단도 양산해 납품했다.

권재순 SK하이닉스 수율 담당 임원(부사장)은 지난달 21일(현지시간) 영국 파이낸셜타임스(FT)와의 인터뷰에서 "HBM3E 칩 양산에 필요한 시간을 50% 단축했다. 해당 칩은 목표 수율인 80%에 거의 도달했다"고 밝히며 HBM 경쟁력에 대한 자신감을 드러내기도 했다.

이 기세를 몰아 SK하이닉스는 HBM3E 12단 개발 속도전에 돌입했다. 지난 4월 말에만 하더라도 "올해 3분기 개발 완료, 내년 공급" 계획을 세웠으나 불과 1주일 만에 "5월 샘플 제공, 3분기 양산"으로 로드맵을 전격 수정했다.

HBM3E 12단은 성능과 용량 모두 전작인 HBM3(4세대 HBM) 8단 대비 50% 이상 개선된 것이 특징이다. 2026년 공급 예정이었던 HBM4(6세대) 12단 제품도 내년으로 앞당겨 양산하기로 했다. HBM4 16단 제품은 2026년에 양산한다.

HBM3E 12H D램 제품 이미지ⓒ삼성전자

로드맵 변경 이유로는 AI 메모리 시장의 가파른 성장이 지목된다. SK하이닉스는 2023년 전체 메모리 시장의 약 5%(금액 기준)를 차지했던 HBM과 고용량 D램 모듈 등 AI 메모리 비중이 5년 뒤인 2028년에는 61%에 달할 것으로 내다봤다. 경쟁사들이 엔비디아향 HBM 수주전을 놓고 열을 올리는 상황에서 대응책을 내놓은 것으로 풀이된다.

마이크론의 추격도 만만치 않다. 마이크론은 미국 정부의 전폭적인 지원에 힘입어 현재 10%인 HBM 점유율을 내년에는 30%까지 올리겠다는 목표를 세웠다. 마이크론은 2024 회계연도 2분기 실적 발표에서 "HBM3E로부터 매출이 발생하기 시작했다"며 2025년 HBM 생산량 대부분이 이미 판매 계약이 끝났다고 밝힌 바 있다.

삼성전자는 HBM3E를 앞세워 대대적인 반격을 준비중이다. HBM3E 8단 양산을 4월에 시작한 삼성은 현재 12단 제품 샘플을 고객사에 공급중으로, 2분기 중 양산을 시작하겠다는 계획이다. HBM 제조사 중 가장 빠른 속도다.

그러나 아직까지 납품 소식이 들려오지 않자, 업계는 삼성전자의 HBM 경쟁력에 의구심을 표하고 있다. 대만 현지에서 열린 엔비디아 기자간담회에서도 이 같은 질문이 빗발쳤다. 젠슨 황 CEO는 삼성 HBM에 대해 "(테스트가) 아직 끝나지 않았을 뿐이며 인내심을 가져야 한다"고 말해 시간이 걸릴 수 있음을 시사했다.

삼성전자의 공급 일정을 묻는 질의에는 "우리에게 필요한 HBM 양은 매우 많기 때문에 공급 속도가 무척 중요하다"며 "삼성, SK, 마이크론과 모두 협력하고 있으며 이들 업체로부터 모두 제품을 받게 될 것"이라고 해 치열한 HBM 공급 전쟁이 예상된다.

엔비디아와 AMD의 AI 칩 개발 타임라인과 HBM 사양ⓒ트렌드포스

삼성이 엔비디아향 HBM 물꼬를 트게 된다면 하이닉스와의 점유율 차이도 축소될 것으로 보인다. 업계는 삼성이 엔비디아 품질 테스트를 통과하게 되면 이르면 올 하반기 HBM3E 12단 공급을 시작할 것으로 전망한다.

미래에셋증권은 "대만 컴퓨텍스 2024에서 황 CEO가 자사 GPU 및 CPU가 탑재될 컴퓨팅 플랫폼과 삼성 HBM 간의 추가적인 최적화 과정이 요구된다는 취지의 언급을 했다"며 "아직 실패를 단정짓기엔 어렵다. 경쟁사 보다 반박자 늦은 부분이 아쉽지만 2분기 내 8단 매출액 인식, 12단 양산 돌입이라는 기존 가이던스는 달성 가능할 것"이라고 전망했다.