AI 추론 확대로 HBF 메모리 생태계 부상

구글 딥마인드가 인공지능 추론 시대에 필요한 차세대 메모리 계층으로 고대역폭플래시(HBF)를 제시했다. AI의 처리 대상이 텍스트에서 이미지·영상·음성으로 넓어지고 과거 대화를 저장하는 KV 캐시가 급증하면서, 속도 중심의 기존 D램만으로 용량과 비용 문제를 해결하기 어려워졌다는 판단이다. 향후 10년간 AI 추론용 반도체 시장이 10배 이상 커질 것이라는 전망도 제시됐다.

미국 캘리포니아주 산타클라라에서 6일 열린 ‘FMS 2026’ 패널 토론에는 구글 딥마인드 샤오위 마 연구원, SK하이닉스 임의철 솔루션 AT 담당, 샌디스크 라지브 나가비라바 부사장이 참석했다. 참석자들은 AI 산업의 무게중심이 모델 학습에서 이용자의 질문에 답하고 업무를 수행하는 추론으로 이동하면서, 빠른 데이터 공급 능력과 대용량 저장 공간을 함께 갖춘 메모리 구조가 필요하다는 데 의견을 모았다.

HBF는 고대역폭메모리(HBM)와 솔리드스테이트드라이브(SSD) 사이를 잇는 기술이다. 낸드플래시를 기반으로 많은 데이터를 보관하면서 연산에 필요한 정보를 빠르게 공급하도록 설계되며, HBM을 대체하기보다 AI가 자주 활용하는 데이터를 관리하는 보조 메모리 역할을 맡는다. 읽기 속도가 중요한 연산은 HBM이 처리하고 대규모 데이터 저장은 HBF가 담당하도록 메모리와 소프트웨어를 함께 최적화하는 구성이 핵심으로 제시됐다.

SK하이닉스와 샌디스크는 지난 2월 컨소시엄을 출범시킨 뒤 약 6개월 만인 이번 행사에서 HBF 첫 표준 규격을 공개했다. 구글과 AI 반도체 기업 텐스토렌트도 표준화 작업에 참여하고 있다. HBF를 활용하면 이전 대화 데이터의 관리 효율과 응답 속도를 높이고 GPU 부담을 줄일 수 있으며, 전원이 꺼져도 데이터를 유지하는 낸드플래시의 특성도 활용할 수 있다. 실제 AI 서비스를 운영하는 기업이 필요성을 제시하면서 관련 생태계 구축 논의도 속도를 낼 가능성이 커졌다.