바이트댄스, 초대형 AI 모델 개발에 역량 집중
핵심 요약
바이트댄스가 최대 10조개 매개변수 규모로 거론되는 초대형 AI 모델을 훈련하고 있다. 회사는 데이터센터와 연구인력에 3년간 집중 투자해 AI 조직을 약 2000명 규모로 확대했다. 경쟁 모델의 모방보다 자체 기술과 장기 연구에 무게를 둔 개발 전략을 추진하고 있다.
중국 바이트댄스가 미국의 최첨단 인공지능 모델을 따라잡기 위해 새로운 초대형 AI 모델을 훈련하고 있다. 학습에는 3~6개월이 걸릴 것으로 예상되며, 정확한 규모는 확인되지 않았지만 매개변수가 최대 10조개에 이를 가능성이 거론된다. 완성되면 기존 중국 AI 모델보다 훨씬 큰 규모가 된다.
새 모델의 매개변수는 모두 동시에 작동하지 않고 입력된 질문의 성격에 따라 필요한 일부만 선택적으로 활용되는 구조로 설계됐다. 바이트댄스는 최근 성능을 끌어올린 중국 AI 모델들이 미국의 최첨단 모델과 격차를 좁히고 있다는 판단 아래 대규모 모델 개발에 힘을 싣고 있다.
바이트댄스는 최근 3년 동안 데이터센터 확충과 AI 연구인력 채용에 집중적으로 투자했다. 2023년 AI 연구조직 시드를 별도 사업부로 키운 뒤 중국 안팎에서 연구진과 엔지니어를 빠르게 늘려 현재 약 2000명이 근무하고 있다. 자체 AI 서비스인 더우바오는 월간 이용자 3억2400만명을 기록하고 있다.
개발 전략도 경쟁사의 AI 모델을 모방하거나 학습하는 방식보다 자체 기술을 구축하는 데 초점이 맞춰져 있다. 창업자 장이밍은 최근 내부 회의에서 단기적인 경쟁에 매달려 다른 기업을 뒤쫓는 데 그치지 말고, 기술의 한계를 넓히는 장기 연구를 확대해야 한다는 방향을 제시했다.