엔비디아, 개방형 AI 확장…1조 매개변수 모델 개발

엔비디아가 11일(현지 시각) 자체 개발한 경량 개방형 인공지능 모델 ‘네모트론 3.5 라이트닝’을 공개했다. 혼합전문가 방식으로 설계된 이 모델은 300억개 매개변수를 갖췄으며, 기업은 별도의 라이선스 비용이나 사전 승인 없이 내려받아 사용할 수 있다. 가중치도 함께 공개돼 이용 목적에 맞춘 수정이 가능하다.

네모트론 3.5 라이트닝은 기존 대형 네모트론 모델의 답변을 학습 데이터로 삼는 ‘증류’ 기법을 통해 크기를 줄이면서 유사한 성능을 구현했다. 동급 개방형 모델보다 토큰 생성 속도가 최대 4배 빠르고, AI 에이전트가 전체 작업을 마치는 시간은 약 30% 짧다는 것이 엔비디아의 설명이다. 증류는 경량 모델 개발에 활용돼 왔지만 중국 AI 업체가 미국 첨단 모델을 모방하는 데 사용했다는 의혹이 불거지며 논란도 이어지고 있다.

이용자의 명령 난도와 요구사항을 분석해 적합한 모델로 요청을 배분하는 개방형 도구 ‘네모 스위치야드’도 함께 나왔다. 엔비디아는 이 도구를 적용하면 최고 성능 모델만 사용할 때와 비슷한 정확도를 유지하면서 비용을 3분의 1 수준으로 낮출 수 있다고 제시했다. 최근 개방형 AI 규제에 반대하는 서한을 주도한 데 이어 직접 모델과 운용 도구까지 내놓으며 관련 생태계 확대에 속도를 내는 흐름이다.

엔비디아는 매개변수 1조개 규모의 차세대 개방형 모델 ‘네모트론4’도 개발하고 있다. 훈련은 아직 끝나지 않았고 출시 일정도 확정되지 않았지만, 이르면 올해 늦가을 개발이 완료될 수 있다. 개방형 모델은 자체 서버나 데이터센터에서 구동·수정할 수 있어 사용이 늘면 학습과 추론에 필요한 AI 가속기 수요도 확대될 수 있다. 카리 브리스키 생성형AI 담당 부사장은 기업과 국가가 접근할 수 있는 최첨단 개방형 모델이 안전·안보 강화와 혁신 촉진에 필요하다는 투자 배경을 밝혔다. 젠슨 황 최고경영자도 무료 AI가 하드웨어와 반도체, 데이터센터에 긍정적이라는 입장을 내놨다.