전체메뉴

[애플경제 전윤미 기자] 마이크론이 22일 “2024년과 2025년 대부분의 고대역폭 메모리 제품은 이미 모두 예약이 끝나고 매진되었다”고 밝혔다. 엔비디아의 ‘GTC 2024’ 다음날 기다렸다는 듯, 마이크론의 자사의 상황을 굳이 공표한 것이다. 이는 2024년에는 고성능 가속기(H100, 블랙웰 기반 G100, G200, GB200 등)을 위한 고대역폭 메모리(HBM)의 기술과 시장경쟁이 불을 뿜을 것으로 예상되는 대목이다.

특히 엔비디아의 ‘블랙웰’ 등장에 SK하이닉스와 삼성전자, 마이크론 등 세계 메모리 시장의 강자들이 앞다퉈 HBM 신기술을 과시하며 선보이며 엔비디아 등을 향한 선심 경쟁과 주도권 다툼을 벌이고 있다.

AI 칩 핵심 메모리 HBM이 중요 승부처로 부상

이번에 엔비디아가 차세대 AI 반도체 칩 플랫폼 ‘블랙웰’을 공개하면서 AI 칩의 핵심 메모리인 HBM이 중요한 승부처로 부상했다.

잘 알려졌다시피 HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고성능 메모리다. 현재 1세대(HBM), 2세대(HBM2), 3세대(HBM2E), 4세대(HBM3), 5세대(HBM3E) 순으로 개발이 진행되고 있다.

특히 이번에 소개된 슈퍼칩 GB200은 이런 시장 상황을 보여주는 상징과도 같은 존재가 될 가능성이 크다. 이는 엔비디아 GPU(B200 2개)와 CPU(그레이스)가 결합된 것으로 최대 864GB 메모리가 적용된다. 이를 감당하려면 일단 HBM3E가 필요하다. 이를 엔비디아에 납품할 경우 천문학적 수익을 거둘 수 있을 것이란게 HBM업계의 기대다.

SK하이닉스, ‘HBM3E’ 12단 실물 공개 “양산 성공”

이 분야에서 앞서가는 SK하이닉스는 이미 엔비디아 최신 AI칩 H100에 4세대 제품인 ‘HBM3’를 탑재한 사실을 부각시키며 경쟁사들과 차별화를 강조하고 있다. 그러면서 ‘HBM3E’ 12단 실물을 공개하고, 양산에 성공했음을 밝히며 시장 선두 주자 자리를 굳히겠다는 전략이다.

SK하이닉스는 현재 AI의 핵심인 그래픽처리장치(GPU) 시장의 80% 이상을 장악한 엔비디아에 HBM3를 사실상 독점 공급하고 있다. 나아가서 HBM3E 양산에 돌입, 3월 말부터 제품 공급을 시작할 방침이다. 회사측은 지난 2023년 8월 HBM3E 개발을 완료했다고 발표한 바 있고, 그로부터 7개월 만에 양산을 할 수 있게 된 것이다.

한발 늦은 삼성전자도 급가속, ‘HBM3E 12단 개발 성공’

한발 늦은 삼성전자도 속도를 내고 있다. 실제 삼성전자는 그 동안 AI 분야에서 상대적으로 뒤처지고 있다는 평가다. 지난 주 삼성전자 정기 주주총회에선 “글로벌 AI경쟁에서 낙오하는 것 아니냐”는 주주들의 질책과 비판이 쏟아졌다.

일단 삼성전자도 이날 주총에서 올해 상반기 양산 예정인 ‘HBM3E 12H(12단)’ 실물 제품을 공개하며 ‘데이터 중심의 컴퓨팅을 위한 CXL’을 주제로 발표에 나서기도 했다.

삼성전자는 앞서 지난 2월 HBM3E 12H(12단) 개발에 일단 성공한 것으로 알려졌다. 이 제품은 초당 최대 1280GB의 대역폭과 현존 최대 용량인 36GB를 제공, 성능과 용량 모두 전작인 HBM3보다 50% 이상 개선한 것이라는 회사측 설명이다. 쉽게 말해 “30GB 용량의 UHD 영화 40여 편을 1초 만에 처리할 수 있는 속도”라는 얘기다.

삼성은 “비록 SK하이닉스 보다 5세대 HBM 양산엔 한 발 늦었지만, HBM3E의 적층수를 더 높여 경쟁사 제품보다 높은 성능과 용량을 무기로 반격에 나설 것”이란 전략이다. 현재 시장에선 HBM3E 제품 중 8단 제품이 가장 많이 필요하며, 12단 제품은 올 하반기쯤 본격적으로 수요가 몰릴 것이란게 전문가들의 전망이다.

마이크론, HBM3E 8단 전시, ‘양산’ 선언

이에 미국의 마이클론도 기술 경쟁에 박차를 가하고 있다. 이 회사도 지난 2월 HBM3E 양산을 선언했다. 또 엔비디아 H200 텐서 코어 SiP에 들어갈 HBM3E 8H를 전시하고, 앞으로의 로드맵도 소개했다.

특히 22일 마이크론은 “곧 출시될 H200 가속기에 최신 고대역폭 메모리(HBM3e)를 공급하기로 했으며, 2024년 남은 기간 동안 완전히 매진될 것이며, 이미 2025년 납품 예약도 끝난 상태”라고 했다.

그러면서 마이크론은 서버용 HBM, SSD용 NAND, 클라이언트용 DDR5를 포함한 메모리 제품의 실적을 공개했다. 회사측은 “최고 수준의 목표를 훨씬 웃도는 결과”라고 했다. 특히“올해 출시될 H200 가속기용 HBM3e 칩에 대한 엔비디아와의 계약을 통해 모두 소진될 것”이라고 기술매체 익스트림테크에 밝혔다.

이에 따르면 마이크론은 2025년에 HBM3e의 12레이어 스택을 출시하고, 2026년에는 대역폭을 2TB/s 이상으로 끌어올릴 것으로 예상된다. 또 “2026년 HBM4가 출시될 때까지 사용할 수 있는 가장 빠른 서버 메모리인 HBM3e 메모리가 ‘경쟁사 제품’보다 전력 소비가 30% 낮다”고 주장했다. 그러나 아직은 삼성, SK하이닉스보다 시장 점유율이 낮은 처지여서약간의 과장이 섞인 것으로 해석되기도 한다.

그럼에도 엔비디아와의 파트너십과 경쟁력 있는 메모리 포트폴리오를 통해 두 회사를 추격한다는 전략이다. 현재 이 회사의 HBM3e 메모리 ‘큐브’는 개당 최대 1.2TB/s의 대역폭을 제공하는 8단 설계로 24GB 용량을 제공한다. 141GB HBM3e 메모리를 위한 6개의 모듈을 갖춘 H200에 최적화된 것이다.

이 회사는 또 큐브당 용량을 36GB로 늘린 12단 HBM3e 시장을 공략한다는 계획이다. 그래서 “2025년 내내 이 버전을 확장함으로써 HBM3e 시장에서 경쟁사를 제치고 엔비디아의 2세대 H200 제품에 최적화된 위상을 갖출 것”이란 목표다.