런웨어, 분산형 AI 추론 거점 구축 속도전

AI 인프라 기업 런웨어가 현지 시각 8월 4일 모듈형 데이터센터 ‘소닉 인퍼런스 포드’를 공개했다. 컨테이너처럼 독립된 장치를 떼고 붙일 수 있는 구조로, 대형 클라우드 기업의 초대형 데이터센터와 함께 운용하도록 설계됐다. 고정형 시설을 계속 확장하는 대신 포드를 추가해 AI 추론 처리 용량을 빠르게 늘리는 구상이다.

포드는 외부로 냉각수를 배출하지 않고 내부에서 순환시켜 별도의 물을 소비하지 않으며, 구축에는 며칠이 걸린다. 일반 데이터센터 건설 기간이 수개월에서 수년에 이르는 것과 대비된다. 런웨어는 미국과 유럽, 아시아태평양 지역에 포드 10개를 배치하고 있으며, 추가 가동이 가능한 부지 160곳도 확보했다.

런웨어는 이미 학습된 AI 모델이 이용자의 요청에 결과를 내놓는 추론 서비스를 힉스필드 AI와 윅스에 제공하고 있다. 서버를 자체 건설하지 않는 다른 추론 서비스나 GPU 대여형 클라우드보다 높은 품질과 낮은 비용을 구현할 수 있다는 게 회사의 설명이다. 지난해 12월에는 5,000만 달러, 약 715억 원 규모의 시리즈 A 투자 유치 계획을 발표했다.

플라비우 라둘레스쿠 공동창업자 겸 최고경영자는 포드 전체를 하나의 네트워크로 연결해 여유 용량이 있고 이용자와 가까운 지점으로 요청을 보내는 방식을 제시했다. 일부 포드가 중단되면 다른 포드로 트래픽을 옮길 수 있다는 설명이다. 다만 회로기판 설계 오류는 재설계와 시뮬레이션, 제작, 시험, 납품을 다시 거쳐야 해 수개월의 지연을 부를 수 있다. 오픈AI의 오하이오 데이터센터 건설을 포함한 5,000억 달러 규모 계약이 체결에 근접한 가운데, 데이터센터 유치 지역에서는 공공요금 상승 사례도 나타났다. 런웨어는 재생에너지 기반 운영을 목표로 삼았지만 아직 이를 달성하지는 못했다.