카이스트 김정호 "HBM, D램·낸드 통합 제어 중심 돼야"

[아이뉴스24 박지은 기자] "고대역폭메모리(HBM)는 더 이상 그래픽처리장치(GPU) 옆에 배치되는 보조 메모리에 그치지 않고, LPDDR D램과 낸드플래시 등 다양한 메모리와 GPU 간 트래픽을 관리하는 중심 허브가 될 것 입니다."

김정호 한국과학기술원(KAIST) 전기·전자공학부 교수는 11일 온라인으로 열린 '차세대 HBM 로드맵 기술 발표회'에서 이 같이 말했다.

김 교수는 세계 반도체 업계에서 'HBM의 아버지'로 불리는 인물이다. 2000년대 초반부터 카이스트 대학원생들과 HBM 핵심 구조와 설계 기술을 연구했으며, SK하이닉스·엔비디아와 협업해왔다.

그는 차세대 HBM에 일부 로직 기능이 탑재되며 시스템 반도체와 메모리의 경계가 허물어지는 상황에 주목해 오히려 메모리가 이 주도권 싸움에서 승기를 잡아야 한다고 주장해왔다.

김 교수는 "'HBM의 컴퓨팅 중심화'가 이번에 제시한 로드맵의 핵심"이라며 "현재 우리 기업이 HBM의 90% 이상 비중을 차지하지만, 미래에는 더욱 적극적으로 나서야 한다"고 강조했다.

◇HBM4~8 기술 로드맵 제시

김 교수는 이날 HBM4부터 HBM8까지 기술 로드맵을 제시했다.

오는 2026년 출시를 앞둔 HBM4는 입출력단자(I/O) 개수가 2048개로, 현재 HBM3보다 두 배 늘어나며 더 높은 대역폭을 제공할 수 있을 것으로 예상했다.

HBM은 한 번에 더 많은 정보를 처리할 수 있도록 대역폭을 높인 특별한 D램인데, 현재보다 두 배나 더 처리 용량이 늘어난 제품이 출시된다는 의미다.

김 교수는 또 HBM4부터 '베이스 다이'를 고객사마다 맞춤 제작(커스텀)할 것으로 봤다. 엔비디아용 베이스다이를 쓴 HBM은 회사가 요구하는 기능을 더욱 매끄럽게 처리하는 식이다.

HBM5의 개발 완료 시점은 오는 2029년으로 예상했다. HBM5는 '3차원(3D) 이종 집적, 첨단 패키징'으로 메모리 컴퓨팅 구조를 이룰 것으로 봤다.

또 발열 문제 해소를 위해 HBM 패키지 전체를 냉각수에 담그는 '이멀전 쿨링' 적용 가능성도 제시했다.

인공지능(AI) 모델을 구동하려면 HBM에서도 다리미를 연상케하는 뜨거운 열기가 발생하기 때문이다. 반도체의 성능은 19~22도 정도에서 가장 매끄럽게 구동되는 것으로 알려져 있다.

HBM6는 오는 2032년까지 개발될 예정이다. HBM5까지는 단일 칩 구조였다면 HBM6부터는 '멀티 타워' 구조로 설계될 것으로 봤다.

김 교수는 "HBM을 여러 층 쌓는 구조"라며 "데이터 이동 뿐 아니라, 컴퓨팅 요소까지 더한 '엑티브 하이브리드 인터포저' 도입이 예상된다"고 설명했다.

HBM7는 오는 2035년, HBM8은 2038년까지 개발될 것으로 봤다.

김 교수는 "HBM8은 GPU 상단에 HBM을 두고, 이들을 인터포저 구조 양면에 설치하는 '풀 3D HBM 아키텍처'가 예상된다"고 말했다.

그러면서 "HBM 기술 로드맵의 관건은 발열 제어"라며 "첨단 패키징 기술, 냉각 솔루션으로 기술의 진화를 가능케 할 수 있을 것"이라고 말했다.

◇메모리 빅3, 차세대 HBM4 기술 경쟁 한창

'메모리 빅3' 삼성전자, SK하이닉스, 마이크론 테크놀로지의 차세대 HBM 기술 확보 경쟁도 치열하다.

SK하이닉스가 지난 3월 세계 최초로 12단 적층 HBM4 샘플을 엔비디아를 포함한 주요 고객사에 공급한 데 이어, 마이크론도 최근 HBM4 샘플을 고객사에 전달했다.

마이크론은 고객사에 전달한 HBM4에 대해 "기존 HBM3E 제품보다 전력 효율을 20% 이상 개선했다"며 "최저 전력 소비로 최대 데이터 처리가 가능해 데이터 센터 효율을 극대화할 수 있다"고 밝혔다.

삼성전자는 HBM4 샘플을 고객사에 제공한 SK하이닉스, 마이크론보다 한걸음 뒤처져 있다.

앞서 삼성전자는 이달 중으로 엔비디아에 HBM3E 공급을 시작하는 게 목표라고 밝혔다. 하지만 반도체 업계에선 삼성전자가 이달 중으로 엔비디아의 HBM3E 인증 테스트를 통과하긴 어려울 것이란 예상이 지배적이다.

한편 엔비디아의 다음 인증은 오는 9월 진행될 것으로 알려졌다.