HBM 한계 놓고 겔싱어·SK하이닉스 해법 논쟁

팻 겔싱어 전 인텔 최고경영자가 지난달 8~9일 프랑스 파리에서 열린 레이즈 서밋 2026 패널 토론에서 HBM을 ‘형편없는 메모리’라고 평가했다. 김호식 SK하이닉스 부사장은 HBM이 메모리 병목의 최종 해답은 아니라는 지적에 일부 동의하면서도, 현재 확보한 메모리 가운데 가장 좋은 선택이라고 선을 그었다.

겔싱어 전 CEO는 여러 개의 D램을 수직으로 쌓는 HBM 구조가 층 사이에 열이 갇히는 ‘열 샌드위치’를 만든다고 지적했다. GPU와 메모리를 잇는 접촉면의 대역폭이 제한되고, HBM 1비트를 구현하는 과정에서 기존 메모리 4비트를 명목상 포기해 비트·전력·대역폭 효율이 모두 낮아진다는 주장도 내놨다. 단기적인 AI 수요에는 HBM이 최선이지만 장기적으로는 새로운 메모리 구조가 필요하다는 게 그의 판단이다.

김 부사장도 HBM의 발열과 입출력, 비용 문제를 인정했지만 AI 추론 시스템의 메모리 병목을 당장 완화할 수단은 HBM이라고 강조했다. 메모리 월은 연산 장치의 속도가 빨라져도 메모리가 데이터를 제때 공급하지 못해 시스템 성능이 제한되는 현상이다. HBM은 데이터 이동 통로를 크게 넓혔지만, AI 모델의 규모와 처리량이 빠르게 증가하면서 더 넓어진 통로에서도 병목이 다시 나타나고 있다.

반도체 경쟁의 기준도 비트당 비용에서 적은 전력으로 더 많은 데이터를 옮기는 와트당 대역폭으로 이동하고 있다. 인텔은 Z-앵글 메모리와 크로스배치 메모리를 연구하고 있으며, 엔비디아는 GPU 내부 S램 용량을 확대하는 방향을 택했다. SK하이닉스도 ‘MaaS’를 제시하고 다른 해법을 연구 중이다. 앞으로는 GPU와 메모리, 패키징, 인터커넥트를 함께 설계하고 AI 칩 업체의 요구에 맞춰 제품을 공동 개발하는 역량이 더욱 중요해질 전망이다.