AI 인프라 지출 420억달러…추론이 학습 추월

전 세계 인공지능(AI) 최적화 서비스형 인프라(IaaS) 지출이 올해 420억달러, 약 59조원에 이를 전망이다. 지난해보다 96% 늘어난 규모다. 시장의 높은 성장세가 이어지면서 2027년 지출은 660억달러, 약 93조원까지 확대될 것으로 예상된다. 기업의 AI 활용 범위가 넓어지는 흐름이 인프라 투자를 끌어올리는 핵심 요인으로 제시됐다.

올해 추론 부문 지출은 233억달러, 약 33조원으로 예상돼 학습 관련 지출 190억달러, 약 27조원을 처음 웃돌 전망이다. 전체 AI 최적화 IaaS 지출에서 추론이 차지하는 비중도 2026년 55%에서 2027년 59%로 높아질 것으로 관측됐다. 추론 워크로드의 확대에 따라 클라우드 투자 우선순위도 학습 중심에서 실시간 실행을 뒷받침하는 방향으로 재편될 가능성이 커졌다.

시장 성장은 대규모 언어 모델(LLM) 학습용 인프라 수요가 이어지는 가운데 AI가 기업 애플리케이션과 업무 프로세스 전반에서 빠르게 상용화되는 흐름과 맞물려 있다. 하딥 싱 가트너 수석 애널리스트는 기업들이 모델 개발 단계를 넘어 대규모 상용 배포로 이동하면서 미세 조정 모델과 도메인 특화 모델(DSM)이 고객 대응 및 운영 시스템에 빠르게 통합되고 있다고 진단했다.

에이전틱 AI 확산도 자원 소비 구조의 변화를 촉진하고 있다. 여러 단계를 자율적으로 처리하는 과정에서 컴퓨팅 집약도가 높아지면서 AI 자원 소비의 중심이 추론으로 옮겨가고 있다. 고객 대응과 운영 시스템에 들어간 AI는 일회성 학습에 그치지 않고 지속적인 실시간 실행을 요구한다. 이 같은 전환은 클라우드 소비를 늘리고 AI 최적화 인프라에 대한 상시 수요를 형성해 IaaS를 기업 AI 전략의 핵심 기반으로 끌어올리고 있다.