서구 생성형 AI 출력, 중국 군사용 모델로 이전

중국 군 관련 연구기관들이 오픈AI와 앤트로픽 모델의 출력을 활용해 국방·감시·드론·사이버전·전장 계획에 쓰일 인공지능을 학습한 정황이 확인됐다. 현지시간 7월 31일 공개된 조사에서는 중국 학술 논문과 특허 80건 이상, 군과 연계된 사례연구 24건이 검토 대상에 포함됐다.

베이징의 인민해방군 96941부대는 GPT-3.5로 군 관련 소스코드의 요약문을 만들어 자국 모델 학습에 이용했다. 무기산업 연계 대학인 중북대학은 클로드 3 하이쿠를 통해 소셜미디어 감시와 콘텐츠 분류용 합성 데이터를 생성했다. 국방과학기술대학의 2024년 논문에는 영상처리 모델을 축소해 무인기에 탑재하면 통신 단절 상황에서도 실시간 항법과 표적 판단이 가능하다는 내용이 담겼다.

이들 사례에는 고성능 모델의 출력을 받아 더 작고 특정 목적에 특화된 모델을 훈련한 뒤 내부에서 운용하는 ‘모델 증류’가 활용됐다. 증류는 AI 업계에서 널리 쓰이는 방식이지만, 이번 사안의 핵심은 허가 없이 모델 출력을 추출했는지 여부다. 논문 60건 이상을 분석한 제임스타운 재단 펠로 서니 청은 중국 군 과학자들이 서구 모델의 추론 과정을 포착해 감시·사이버전·전술 의사결정에 맞도록 변형한 것으로 판단했다.

앤트로픽은 중국과 중국 정부 통제 기업에 클로드의 상용 접근을 허용하지 않고 정책 위반 탐지 체계를 운영하고 있으며, 증류 모델이 원본의 안전장치를 잃을 수 있다고 밝혔다. 오픈AI와 백악관, 미국 국방부, 중국 외교부, 인민해방군은 논평 요청에 답하지 않았다. AI 데이터 기업 사피엔 공동창업자 트레버 코버코는 증류 모델의 성능이 원본보다 낮아 선택된 기능을 저비용의 자국 통제 시스템으로 옮기는 수준이며, 최전선 AI로부터 완전히 독립하는 것은 아니라고 평가했다.