카카오, 온디바이스 AI '카나나-2' 4종 오픈소스로 공개

카카오가 스마트폰과 PC에서 직접 구동 가능한 경량 언어모델 '카나나-2' 시리즈 4종을 오픈소스로 공개했다. 이번에 공개된 모델은 기존 300억 개 매개변수 규모의 '카나나'를 경량화한 버전으로, 매개변수 수에 따라 '카나나 2-1.3B(13억)'와 '카나나 2-3B(30억)'로 나뉜다. 각 모델은 일반형(베이스)과 사용자 지시를 따르도록 학습한 인스트럭트형으로 제공된다.

카카오는 메모리 용량이 제한된 스마트폰에서도 구동할 수 있도록 경량화했지만 글로벌 수준의 성능을 구현했다고 강조했다. 자체 개발한 한국어 특화 토크나이저(단어 분리 기술)를 적용해 연산 속도를 높이고 텍스트 처리 효율을 기존보다 30% 이상 개선했다. 약 2만4000단어에 이르는 장문 대화에서도 기존 방식보다 메모리 사용량을 최대 72.7% 줄일 수 있었다고 카카오는 설명했다.

카카오는 상업적 이용도 허용해 누구나 모델을 무료로 활용할 수 있도록 했다. 대형 언어모델(LLM) 운용 비용 부담을 낮춰 스타트업과 연구기관의 AI 서비스 개발을 지원하겠다는 취지다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “이번 오픈소스 공개가 다양한 기업의 AI 서비스 개발과 생태계 활성화로 이어지기를 기대한다”고 말했다.

이번 공개로 카카오는 자체 AI 기술의 외부 확산을 통해 생태계 확장을 노리는 것으로 분석된다. 경량 모델 특성상 스마트폰 등 엣지 디바이스에서의 AI 활용이 늘어날 것으로 예상되며, 오픈소스 정책은 중소기업과 연구자들의 접근성을 높여 다양한 응용 서비스 개발을 촉진할 전망이다.