AI 인프라 병목, GPU 성능서 광연결로 전환

AI 데이터센터의 성능 경쟁이 GPU와 고대역폭메모리 확보를 넘어 연결 기술로 확산하고 있다. 삼일PwC가 13일 내놓은 분석 보고서는 수천~수만 개의 GPU가 오가는 데이터를 얼마나 빠르고 효율적으로 처리하느냐가 전체 연산 성능과 전력 효율을 좌우하는 단계에 접어들었다고 진단했다. 데이터센터 규모가 커질수록 GPU 자체의 처리 능력보다 GPU 간 통신 성능이 핵심 변수로 부상하는 구조다.

다수의 GPU를 병렬로 묶어 하나의 대형 연산 시스템처럼 운용하면 칩과 서버 사이의 데이터 전송량도 급증한다. 기존 구리 케이블은 대역폭이 높아질수록 전력 효율이 낮아지고 전송거리에도 제약이 생겨, 연결 과정의 전력 소비와 신호 감쇠가 확대될 수 있다. 전기 신호 대신 빛으로 데이터를 보내는 광통신은 현재 랙과 랙 사이 연결에 주로 쓰이지만 적용 범위가 GPU와 칩에 가까운 영역까지 넓어질 전망이다.

차세대 기술인 공동패키징 광학(CPO)은 광학 엔진과 스위치 칩을 같은 패키지에 통합해 전기 신호가 이동하는 거리를 줄이고 전송 전력도 낮추는 방식이다. CPO는 초기 상용화 단계에 진입했으며 관련 세계 시장은 연평균 38% 성장해 2030년 5억8000만달러에 이를 것으로 전망됐다. 엔비디아는 지난 3월 광학 기술기업 루멘텀과 코히런트에 각각 20억달러를 투자했고, TSMC도 실리콘 포토닉스 칩을 포함한 CPO 제조 기반을 구축하고 있다.

광통신이 GPU 등 연산 칩 사이의 인터페이스로 확대되면 GPU와 HBM을 최대한 가깝게 배치해야 하는 물리적 제약도 완화될 수 있다. 연산 장치와 메모리를 한곳에 밀집시키는 집적 중심 구조에서 자원을 더 자유롭게 배치하는 분산형 구조로 발전할 가능성도 제시됐다. 이승환 삼일PwC AX노드 리더는 국내 기업이 축적한 반도체 역량과 정밀 제조 경쟁력을 바탕으로 광케이블·광트랜시버를 넘어 실리콘 포토닉스와 고속 인터커넥트 칩으로 기술 영역을 확장할 필요가 있다고 강조했다.