AI 추론 병목 겨냥한 HBF 생태계 구축 본격화

SK하이닉스가 고대역폭메모리(HBM)에서 쌓은 인공지능 메모리 경쟁력을 고대역폭플래시(HBF)로 확장한다. SK하이닉스와 구글 딥마인드, 샌디스크는 6일(현지시간) 미국 캘리포니아주 샌타클래라에서 열린 ‘FMS 2026’ 패널 토의에서 AI 추론 시장의 메모리 병목과 HBF의 역할, 실제 시스템에 적용하기 위한 기술 과제를 논의했다.

HBF는 HBM과 솔리드스테이트드라이브(SSD) 사이에 새로운 메모리 계층을 두는 기술이다. 초고속 처리는 HBM이 맡고 대용량 데이터는 HBF가 담당하는 방식으로, HBM의 처리 속도와 낸드의 용량을 함께 활용한다. 샤오위 마 구글 딥마인드 연구원은 2024년부터 2034년까지 거대언어모델 추론용 AI 칩 시장이 10배 이상 커질 것으로 전망했다. 모델 매개변수와 KV 캐시 증가, 멀티모달 AI 확산으로 용량과 대역폭 수요가 동시에 확대되고 있다는 판단이다.

SK하이닉스와 샌디스크는 지난 2월 HBF 표준화 컨소시엄을 출범시킨 뒤 6개월 만인 지난 4일 첫 규격을 공개했다. 낸드 다이를 8단 또는 16단으로 적층하는 구성을 바탕으로 최대 512기가바이트 용량과 초당 약 0.4~3.0테라바이트의 대역폭을 정의했다. 컨소시엄에는 두 회사와 함께 구글, AI 반도체 기업 텐스토렌트가 참여하고 있다. 읽기 작업이 중심인 AI 추론에 HBF를 배치하면 반복적인 쓰기와 삭제로 발생하는 낸드 내구성 문제도 줄일 수 있다.

상용화를 위해서는 D램보다 긴 낸드의 지연시간과 느린 쓰기 속도를 보완해야 한다. 임의철 SK하이닉스 부사장은 필요한 데이터를 요청 전에 불러오는 프리페칭, 제한된 고속 메모리 안에서 처리 대상 영역을 옮기는 무빙 윈도우 메모리, HBM과 HBF를 함께 쓰는 하이브리드 메모리 아키텍처를 해법으로 제시했다. 향후 xPU 설계와 거대언어모델, 소프트웨어 분야가 공동으로 규격의 완성도를 높이고 하드웨어·소프트웨어를 함께 설계하는 작업이 실제 시스템 도입의 핵심 과제로 남았다.