B200 7656장 집결…도심형 AI센터 가동

NHN클라우드가 서울 영등포구 양평동의 도심형 AI 데이터센터 ‘팩토리X’를 기반으로 공공·민간 SaaS GPU 사업 확대에 나선다. 지하 4층·지상 10층 건물 가운데 3층부터 6층까지 4개 층에 엔비디아 B200 GPU 7천656장을 배치했으며, 전체 연산 성능은 574페타플롭스에 달한다. 올해 4월 운영을 시작한 뒤 현재 전체 설비 가동률은 100%에 가까운 수준이다.

서버 시설에는 고성능 GPU의 열을 식히는 전면 수랭식 냉각 체계가 적용됐다. 각 서버 랙에는 전력선과 함께 냉각수를 공급하고 회수하는 파이프가 촘촘하게 연결돼 있었다. 공기로 열을 빼내는 기존 방식보다 소음도 작아 랙이 늘어선 복도에서도 대화가 가능했다. 반도체 집적도와 연산 성능이 높아진 B200급 장비의 안정적인 운용을 위해 전력 효율과 열 관리에 초점을 맞춘 설계다.

팩토리X의 GPU 자원은 과학기술정보통신부와 정보통신산업진흥원이 지난해 1조원 이상을 투입한 ‘AI 컴퓨팅자원 활용기반 강화 사업’을 통해 마련됐다. NHN클라우드는 정부가 확보한 GPU의 운용 사업자를 맡았다. 특히 3층과 4층에서는 GPU 4천80장이 하나의 클러스터로 작동한다. 이 클러스터는 전 세계 슈퍼컴퓨팅 순위 20위에 올라 국내 시스템 가운데 가장 높은 성적을 기록했다.

AI 학습용 데이터센터는 실시간 패킷 교환이 중요한 웹 서비스와 달리 페타바이트급 데이터를 투입해 학습하고 결과를 산출하는 작업이 중심이다. 이에 따라 초저지연 통신뿐 아니라 대규모 전력과 냉각 설비를 안정적으로 확보하는 능력이 경쟁력을 좌우한다. 팩토리X는 도심에 있어 내부 인력과 외부 엔지니어의 협업이 편리하고 물리적 거리에서 발생하는 지연도 상대적으로 줄일 수 있다. NHN클라우드는 이 설비를 토대로 AI 학습과 서비스에 특화된 SaaS 사업 범위를 넓힐 계획이다.