B200 7656장 품은 서울 AI 데이터센터

낮 최고기온이 38도까지 오른 7일, 서울 양평동3가 아파트 단지 옆 NHN팩토리X 서울에서는 엔비디아 B200 GPU 7656장이 가동되고 있었다. NHN클라우드는 국내 최대 규모의 GPU 자원을 공급하기 위해 수랭식 직접액체냉각(DLC)을 적용하고 전력·냉각·네트워크·서버 설계를 고도화했다.

10층 규모 건물의 데이터홀은 3층부터 10층까지이며, 현재 NHN클라우드는 3~6층을 사용한다. 정부 AI 컴퓨팅 자원 운영 공간인 3~5층 가운데 3층과 4층의 GPU 4080장은 하나의 통합 클러스터로 연결됐다. 6층은 열 배출을 돕기 위해 층고를 8ｍ로 설계했고, 상부에는 냉각수가 흐르는 배관이 나란히 설치됐다.

NHN클라우드는 지난해 과학기술정보통신부의 GPU 확보·구축·운용 지원사업 주요 사업자로 선정된 뒤 B200 7656장을 확보했다. 이를 기반으로 GPU 4080장·510노드의 NIPA-CL1과 2040장·255노드의 NIPA-CL2를 구축했다. NIPA-CL1은 지난 6월 글로벌 슈퍼컴퓨터 TOP500에서 국내 최고인 세계 20위를 기록했다.

DLC는 GPU와 CPU에 맞닿은 콜드 플레이트로 냉각수가 열을 흡수하는 구조다. B200의 요구 전력은 공랭식에서 14.3㎾지만 수랭식 적용 시 12.3㎾로 줄었고, 서울과 광주 센터의 운영 결과 장애 발생률과 소음도 공랭식보다 낮았다. 관제실은 주간 3명, 야간 2명이 상주해 서버·클러스터·네트워크와 냉각수 공급 및 온도를 24시간 점검한다. 냉각수가 제때 공급되지 않거나 온도가 지나치게 높아지면 GPU 성능이 저하되거나 자체 종료될 수 있어 실시간 감시가 이뤄진다.