래블업, 한국어 작업 겨냥한 LLM 가속 모델 오픈소스로

래블업이 한국어 질의와 한국어 기반 에이전트 작업에서 거대언어모델(LLM)의 추론을 가속하는 드래프트 모델 ‘GLM-5.2-NVFP4-DFlash-ko’를 오픈소스로 공개했다. 모델은 한글날인 9일 공개됐으며, 한국어 작업에서 답변 생성 속도를 높이는 데 초점을 맞췄다. 중국 즈푸(Z.ai)의 ‘GLM-5.2’를 엔비디아 4비트 부동소수점 형식인 NVFP4로 구동할 때 함께 활용하는 모델이다.

이번 모델에는 지랩(z-lab)이 공개한 디플래시(DFlash) 방식이 적용됐다. 드래프트 모델이 여러 토큰을 먼저 예측하면 대형 모델이 이들을 한 번에 검증하는 구조로, 답변 품질을 유지하면서 생성 속도를 높이는 방식이다. 래블업은 영어 기반 드래프트 모델이 한국어 작업에서 충분한 가속 효과를 내지 못하는 문제를 개선하기 위해 한국어 데이터로 모델을 학습시켜 예측 적중률을 높였다.

한국어 에이전트 트래픽에서 측정한 평균 수락 길이(MAL)는 한국어 질의 기준 2.77이었다. 래블업은 이 수치가 영어 모델과 유사한 가속 성능을 보인다고 설명했다. 회사는 이와 별도로 약 110억 개 매개변수 규모의 한국어 디퓨전 언어 모델도 개발하고 있다. 로컬 기기에서 에이전트 작업을 수행하는 온디바이스 모델 개발이 목표이며, 학습에는 B200 GPU 64장 규모의 클러스터를 활용한다.

신정규 래블업 대표는 개발자와 기업이 한국어 환경에서도 가속 효과를 얻도록 한글날에 모델을 공개했으며, AI 인프라 소프트웨어 개발 경험을 바탕으로 한국어 모델까지 사업 영역을 넓히고 있다고 밝혔다. 래블업은 최근 금융위원회에 증권신고서를 제출해 코스닥 상장 절차에 들어갔다. 공모 주식은 218만주이며 희망 공모가는 2만원에서 2만3000원이다. 기관투자자 대상 수요예측은 13일부터 19일까지 진행할 예정이다.