CXL, AI 서버 메모리 확장축으로 부상

추론형 AI 확산으로 GPU에 탑재된 HBM의 용량 부담이 커지면서 CXL이 메모리 병목을 완화할 대안으로 떠올랐다. 삼성전자와 SK하이닉스, 마이크론은 지난 4~6일 미국에서 열린 ‘FMS 2026’에서 CXL 기술과 활용 방안을 공개했다. 11일 삼성전자는 23만9500원으로 4.13%, SK하이닉스는 142만5000원으로 0.35% 상승했다.

CXL은 프로세서와 메모리를 높은 대역폭과 일관성을 갖춘 방식으로 연결해 기존 D램 구성의 물리적 한계를 넘어 메모리를 확장하는 기술이다. 여러 장치를 스위치로 묶으면 하나의 공유 메모리 풀을 만들고 필요한 곳에 용량을 유연하게 배분할 수 있다. 빠른 연산 데이터는 HBM에 두고, HBM에 모두 담기 어려운 대용량 KV 캐시는 CXL D램으로 옮기는 계층형 운용도 가능하다.

KV 캐시는 AI가 답변을 만들 때 이미 처리한 정보를 저장했다가 다시 쓰는 데이터로, 대화가 길어지고 동시 사용자가 늘면 급격히 커진다. 삼성전자 연구진의 전송 실험에서 D램 기반 CXL 장치는 시스템 메인 D램과 비슷한 처리량을 보였다. 긴 대화 환경에서는 GPU 메모리만 쓴 방식보다 추론 처리량이 최대 9배 높아졌고, 첫 토큰 생성 시간은 최대 16분의 1로 단축됐다.

CXL은 서버별로 남거나 부족한 유휴 메모리를 줄이기 위해 여러 서버가 대규모 풀을 공유하는 방향으로도 발전하고 있다. 삼성전자는 CXL 2.0 기반 CMM-D ‘MD220’에 이어 ‘MD310’을 공개하고 양산 시점을 조율 중이다. SK하이닉스는 분산 시스템에서 KV 캐시를 관리해 네트워크 병목을 줄이는 기술을 선보였으며, SSD에 대용량 데이터를 저장하고 자주 쓸 데이터를 예측해 D램으로 미리 가져오는 하이브리드 구조도 개발했다. 초기 시장인 CXL 연결형 D램 모듈 규모는 올해 15억9000만달러에서 2031년 63억1000만달러로 약 4배 성장할 전망이다.