엔비디아, 개방형 AI 확장…경량 모델 공개
핵심 요약
엔비디아가 300억개 매개변수의 개방형 경량 모델 네모트론3.5 라이트닝을 공개했다. 모델 배분 도구 네모 스위치야드는 정확도를 유지하며 작업 비용을 3분의 1로 줄이는 것을 목표로 한다. 엔비디아는 1조개 매개변수 규모의 차세대 모델 네모트론4도 개발하고 있다.
개방형 인공지능 규제에 반대해 온 엔비디아가 자체 개발한 경량 모델을 공개하며 개방형 AI 생태계 확대에 나섰다. 엔비디아는 11일(현지시간) 매개변수 300억개 규모의 혼합전문가 모델 ‘네모트론3.5 라이트닝’을 선보였다. 별도 라이선스 비용이나 사전 승인 없이 내려받을 수 있고, 가중치도 공개해 이용자가 용도에 맞게 수정할 수 있다.
네모트론3.5 라이트닝은 대형 네모트론의 답변을 학습 데이터로 활용하는 ‘증류’ 기술을 적용해 크기를 줄이면서 유사한 성능을 내도록 설계됐다. 엔비디아는 동급 개방형 모델보다 토큰 생성 속도가 최대 4배 빠르고 전체 에이전트 작업 시간은 약 30% 짧다고 제시했다. 명령 난도와 요구사항을 판별해 적합한 모델로 요청을 보내는 개방형 도구 ‘네모 스위치야드’도 함께 공개했다.
네모 스위치야드는 가장 비싼 모델만 단독으로 운용하는 경우와 같은 수준의 정확도를 유지하면서 작업 비용을 3분의 1로 줄이는 것을 목표로 한다. 증류는 주요 AI 기업들이 경량 모델을 만들 때 활용해 온 기법이지만, 최근 중국 기업들이 미국의 핵심 AI를 모방하는 데 이용했다는 의혹이 불거지며 논란이 됐다. 엔비디아는 최근 개방형 AI 규제에 반대하는 서한도 주도했다.
엔비디아는 매개변수 1조개 규모의 차세대 모델 ‘네모트론4’도 개발하고 있다. 훈련은 아직 끝나지 않았고 출시 일정도 정해지지 않았지만 이르면 올해 늦가을 완성 가능성이 거론된다. 카리 브리스키 생성형AI 담당 부사장은 기업과 국가가 접근할 수 있는 최첨단 개방형 모델이 안전과 안보, 혁신, 장기적인 신뢰 기반에 필요하다는 입장을 밝혔다. 개방형 모델 이용이 늘면 폐쇄형 모델 사업자는 영향을 받을 수 있는 반면, 엔비디아는 GPU 판매 확대와 고객 다변화를 기대할 수 있다. 젠슨 황 최고경영자도 무료 AI가 하드웨어와 반도체, 데이터센터에 긍정적이라는 시각을 밝힌 바 있다.