엔비디아, 경량 AI 공개…1조 매개변수 모델 개발

엔비디아가 11일 매개변수 300억 개 규모의 경량 혼합전문가 모델 ‘네모트론3.5 라이트닝’을 공개했다. 기업은 별도의 라이선스 비용이나 사전 승인 없이 모델을 내려받아 활용할 수 있다. 모델 조정에 필요한 가중치도 함께 공개돼 이용 목적에 맞게 자유롭게 수정할 수 있다. 최근 개방형 AI 규제에 반대하는 움직임을 이끈 엔비디아가 자체 모델 공급까지 사업 범위를 넓힌 것이다.

네모트론3.5 라이트닝은 기존 대형 네모트론 모델의 답변을 학습 데이터로 활용하는 ‘증류’ 기술로 개발됐다. 엔비디아가 제시한 성능 수치상 동급 개방형 모델보다 토큰 생성 속도가 최대 4배 빠르고, 에이전트가 전체 작업을 마치는 데 걸리는 시간은 약 30% 짧다. 명령의 난도와 요구사항을 판별해 적합한 모델로 요청을 보내는 개방형 도구 ‘네모 스위치야드’도 함께 공개됐다. 이 도구는 정확도를 유지하면서 최고가 모델만 사용할 때보다 작업 비용을 3분의 1 수준으로 줄이는 것을 목표로 한다.

증류는 대형 AI가 만든 답변으로 더 작은 모델을 훈련하는 방식으로, 주요 AI 기업들이 경량 모델 개발에 활용해 왔다. 최근에는 중국 기업들이 미국의 핵심 AI를 모방하는 데 이 기술을 사용했다는 의혹이 나오며 논란도 커졌다. 개방형 모델은 폐쇄형 모델보다 이용료가 낮거나 무료인 경우가 많고, 공개된 가중치를 바탕으로 맞춤형 조정도 가능하다. 이용자가 늘면 높은 사용료를 받는 폐쇄형 AI 사업자는 영향을 받을 수 있지만, AI 칩을 공급하는 엔비디아는 판매량 확대와 고객 다변화를 기대할 수 있다.

엔비디아는 매개변수 1조 개 규모의 차세대 초대형 모델 ‘네모트론4’도 개발 중이다. 훈련은 아직 끝나지 않았고 출시 일정도 확정되지 않았으나, 이르면 2026년 늦가을 모델이 완성될 가능성이 제기된다. 카리 브리스키 생성형AI 담당 부사장은 기업과 국가가 접근할 수 있는 최첨단 개방형 모델이 안전과 안보 강화, 혁신 촉진, 장기간 신뢰할 기반 마련에 필요하다는 입장을 밝혔다. 젠슨 황 최고경영자도 무료 AI가 하드웨어와 반도체, 데이터센터 수요에 긍정적이라는 사업 방향을 제시했다.