AI 추론 확대로 HBF 부상…최대 512GB 표준 확정

대형언어모델 추론용 AI 칩 시장이 2034년까지 현재의 10배 이상으로 성장할 가능성이 제기됐다. 샤오위 마 구글 딥마인드 연구원은 6일 미국 캘리포니아주 샌타클래라에서 열린 ‘FMS 2026’ 패널 토의에서 HBF가 HBM의 용량 제약을 보완할 수 있다고 진단했다. 토의에는 라지브 나가비라바 샌디스크 부사장과 임의철 SK하이닉스 부사장도 참여했다.

AI 모델의 매개변수 확대와 이미지·영상·음성을 함께 다루는 멀티모달 성능 향상, KV 캐시 증가는 메모리 수요를 키우는 요인으로 꼽혔다. 추론 작업에는 큰 용량과 빠른 데이터 처리 속도가 동시에 필요하다. 낸드플래시 기반 HBF는 읽기 중심의 추론 작업에 적합하며, 기존 스토리지보다 높은 대역폭과 에너지 효율을 확보할 수 있는 기술로 평가됐다.

HBF는 D램 기반 HBM과 SSD 사이에 배치되는 새로운 메모리 계층으로, HBM을 대체하지 않고 함께 사용해 부족한 용량을 보완한다. 샌디스크는 HBF 적용 시스템의 KV 캐시 인식·배치 능력이 미적용 시스템보다 2배 이상 높아져 토큰 생성 시간을 단축하고 GPU 비용과 부하를 낮출 수 있다고 설명했다. SK하이닉스는 프리페칭과 하이브리드 메모리 구조로 낸드의 긴 지연시간과 느린 쓰기 속도를 보완하는 코디자인이 필요하다고 강조했다.

SK하이닉스와 샌디스크는 FMS 개막에 맞춰 HBF 첫 표준 규격을 공개했다. 지난해 8월 표준화 협력을 시작하고 올해 2월 구글·텐스토렌트와 컨소시엄을 출범한 뒤 약 6개월 만에 마련한 결과다. 표준은 낸드 다이 8단·16단 적층과 최대 512GB 용량을 정의하고, 대역폭을 3개 등급으로 나눠 초당 약 0.4TB부터 3.0TB까지 규정했다. 상용화를 위해서는 xPU·LLM·소프트웨어 분야의 공동 설계와 실제 고객사의 채택이 과제로 남아 있다.