삼성, AI 추론 겨냥 3D 메모리 신기술 공개

삼성전자가 4일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 ‘FMS 2026’에서 차세대 메모리 기술 zHBM을 공개했다. 김경륜 삼성전자 D램개발실 상무가 소개한 zHBM은 AI 가속기 옆에 메모리를 두는 기존 HBM과 달리 가속기 상단에 메모리를 수직 적층하는 3차원 구조다. 칩과 메모리 사이의 데이터 이동거리를 줄여 대역폭과 전력 효율을 높이는 설계로, 8세대 HBM5보다 GPU당 성능은 최대 8배, 전력 대비 성능은 최대 3배 개선하는 것을 목표로 한다.

이진엽 삼성전자 플래시개발실 부사장은 온디바이스 AI에 최적화한 낸드 솔루션 zNAND-O도 공개했다. 수직 적층 낸드인 vNAND를 활용해 4단 또는 8단 칩을 3D 패키징한 제품으로, 고용량과 고대역폭, 빠른 응답속도를 바탕으로 대규모 데이터를 실시간 처리하도록 설계됐다. 기존 서버와 같은 연산량을 처리하면서 비용을 6분의 1로 낮출 수 있다는 설명이다. 행사 전시공간에는 zHBM과 zNAND-O의 실물 모형도 배치됐다.

400단 이상을 쌓은 10세대 낸드 ‘V10 BV-NAND’도 업계 최초로 공개됐다. 이 제품은 9세대 제품보다 메모리 집적도가 58% 높아 같은 면적에 더 많은 데이터를 저장할 수 있으며 읽기와 쓰기, 입출력 속도도 개선됐다. 삼성전자가 HBM뿐 아니라 고성능 낸드 기술을 함께 내놓은 배경에는 에이전트 AI 확산과 AI 모델의 중심이 학습에서 추론으로 이동하는 변화가 있다. 기기 내부에서 AI를 구동하는 환경까지 겨냥해 메모리 제품군을 확장한 것이다.

AI 추론 성능은 이전 대화와 중간 계산 데이터를 담는 임시 기억장치인 KV 캐시를 얼마나 효율적으로 운용하는지에 크게 좌우된다. 저장하고 전달해야 할 데이터가 급증하면서 메모리 병목을 줄일 고성능·고효율 설계가 핵심 과제로 떠올랐다. 삼성전자와 SK하이닉스는 이에 대응한 차세대 기술 개발에 집중하고 있다. SK하이닉스도 FMS 2026에서 샌디스크와 공동으로 낸드를 수직 적층한 고대역폭플래시 HBF의 표준 규격을 업계 최초로 공개해 AI 추론용 메모리 기술 경쟁이 낸드 영역으로 확대되고 있음을 드러냈다.