AI 추론 확산에 메모리 가격 잣대도 성능 중심 전환

AI 에이전트가 세계 인구보다 많아지면서 메모리 반도체의 가치 평가 기준도 용량에서 처리 성능으로 이동할 것이라는 전망이 제기됐다. 비크람 메일소디 엔비디아 수석연구원은 6일 미국 캘리포니아주 샌타클래라에서 열린 ‘FMS 2026’ 특별 패널토의에서 앞으로 AI에 요청을 보내는 주체가 인간보다 에이전트 중심으로 바뀔 것으로 내다봤다. 에이전트의 요청이 급증하면 데이터베이스와 응용 프로그램의 처리 속도를 높이기 위해 기술 전반을 다시 설계해야 한다는 진단이다.

메모리 가격도 기존의 GB당 가격 대신 실제 처리 능력을 반영하는 방식으로 재편될 가능성이 커졌다. 기양석 삼성전자 DS부문 상무는 용량 위주였던 평가에서 벗어나 성능을 새로운 가격 기준으로 삼을 기회가 열렸다고 설명했다. 삼성전자 엔지니어들은 토큰 사용량 제약에 대응해 사내 AI와 비용이 높은 챗GPT에 보낼 작업을 구분하고 있다. 두 시스템을 매끄럽게 연결하는 기술이 메모리 업계의 새 사업 기회로 제시됐다. 제러미 워너 마이크론 부사장도 가격의 초점이 Gb나 GB 단위에서 입출력당 비용으로 옮겨가고, 성능과 전력 효율이 아키텍처 경쟁력을 좌우할 것으로 예상했다.

패널 참석자들은 AI 수요 확대를 HBM만으로 감당하기 어렵다는 데 공감대를 형성했다. 기 상무는 HBM과 D램, 낸드플래시를 유기적으로 연결하는 계층형 메모리 구조가 AI 시스템의 핵심이 될 것으로 봤다. 다른 패널토의에서는 고대역폭 낸드플래시인 HBF의 역할도 논의됐다. 톰 코글린 FMS 의장은 D램 중심의 AI 인프라가 한계에 이르면서 새로운 메모리 계층으로 HBF가 등장했다고 설명했다. 샤오위 마 구글 딥마인드 연구원은 AI 시장의 중심이 학습에서 추론으로 이동하는 가운데 대용량과 고속 처리를 함께 요구하는 추론 환경에 HBF가 적합하다고 평가했다.

임의철 SK하이닉스 부사장은 낸드플래시가 D램보다 지연 시간이 길다는 약점을 보완할 방안으로 HBM과 HBF를 결합한 하이브리드 메모리 아키텍처를 제안했다. 속도가 빠른 HBM과 용량이 큰 HBF의 장점을 함께 활용하는 구상이다. 다만 HBF를 실제 시스템에 적용하려면 해결해야 할 과제가 남아 있다. xPU로 불리는 AI 칩 설계 분야를 비롯해 대형언어모델 전문가와 소프트웨어 엔지니어가 협업해 완성도 높은 규격을 마련해야 한다는 설명이다. AI 에이전트와 추론 수요의 증가는 메모리 용량뿐 아니라 입출력 성능, 전력 효율, 계층 간 연동을 함께 평가하는 변화를 예고하고 있다.