GPU 7656장 집결…국가 AI 기반 떠받치는 팩토리X

서울 당산역에서 도보로 약 15분 떨어진 ‘NHN 팩토리X 서울’이 국가 인공지능 개발을 뒷받침하는 핵심 컴퓨팅 시설로 가동되고 있다. 지난 4월 운영을 시작한 이곳은 독자 AI 파운데이션 모델 사업을 비롯한 정부 AI 과제에 필요한 연산 자원을 제공한다. NHN클라우드는 정부 사업으로 조성된 인프라의 운영을 맡았다.

AI 학습과 추론에 특화된 시설은 건물 3층부터 6층까지 들어섰으며, 엔비디아 B200 기반 GPU 서버 6대로 구성된 랙이 층마다 배치됐다. 랙 한 개의 크기는 가정용 냉장고 한 대와 비슷하지만 관련 장비 비용은 약 60억원이다. 전체 GPU는 7656장으로, 4080장 규모 NIPA-CL1과 2040장 규모 NIPA-CL2가 글로벌 슈퍼컴퓨터 성능 평가 톱500에서 각각 20위와 40위에 올랐다. NIPA-CL1은 국내 인프라 가운데 가장 높은 순위를 기록했다.

3층과 4층의 서버는 인피니밴드 통신망을 통해 NIPA-CL1으로 연결됐고, 5층 서버는 NIPA-CL2를 구성한다. 고밀도 GPU의 발열을 제어하기 위해 냉각수가 서버 내부에서 GPU와 CPU의 열을 흡수하는 수랭 방식을 적용했으며, 인피니밴드 등 나머지 장비는 공랭으로 식힌다. B200 서버의 전력 사용량은 공랭 적용 시 14.3㎾에서 수랭 적용 시 약 12.3㎾로 줄어든다.

정부 AI 컴퓨팅 자원은 3∼5층에 배치됐고, 6층은 NHN클라우드의 AI 클라우드 사업에 쓰이는 자체 운영 공간이다. NHN은 5년 동안 정부 인프라를 운영하는 대신 정부 자산의 약 20%를 민간 사업에 활용해 운영비를 충당한다. 이 물량은 이미 모두 판매됐고 추가 이용 고객도 대기 중이다. NHN클라우드는 GPU 확보와 운영, AI 서비스 구동을 아우르는 풀스택 브랜드 ‘팩토리X’에 서울 시설의 운영 경험을 접목해 AI 인프라 사업을 확대할 계획이다.