미국 AI 출시 전 검토, 폐쇄형 모델에 한정

도널드 트럼프 미국 행정부가 첨단 인공지능 모델의 출시 전 성능과 위험성을 점검하는 새 심사 체계를 마련하고 있다. 현지시간 4일 업계 관계자들에게 제시된 초안은 기본 코드가 공개되지 않은 강력한 폐쇄형 모델만 정부 검토 대상으로 정하고, 개방형 모델은 심사 범위에서 제외하는 내용을 담았다.

초안은 심사를 받아야 하는 ‘프런티어 모델’을 최첨단 성능을 갖추고 국가안보에 위험을 일으킬 수 있는 폐쇄형 모델로 규정했다. 다만 어느 정도의 성능을 최첨단으로 판단할지, 어떤 위험을 국가안보 관련 사안으로 분류할지에 관한 구체적인 기준은 제시되지 않았다. 적용 대상에는 오픈AI의 챗GPT와 앤트로픽의 클로드 같은 모델이 포함될 것으로 예상된다.

심사 대상으로 지정된 AI 기업은 모델을 출시하기 전 30일 동안 미국 정부의 검토를 받아야 한다. 이 기간에는 해당 기업 직원들의 모델 접근도 제한될 수 있다. 검토 절차는 특정 정부 부처나 단일 기관이 전담하지 않고, 백악관과 행정부 내 여러 부처 관계자가 함께 참여하는 방식으로 운영될 예정이다.

이용자가 모델 가중치와 추론 코드를 내려받아 수정하거나 변형할 수 있는 딥시크 등 개방형 AI 모델은 새 체계의 적용을 받지 않을 전망이다. 이에 따라 이번 조치는 오픈AI와 앤트로픽을 비롯한 주요 폐쇄형 AI 기업에 대한 감독을 공식화하는 한편, 중국 기업들이 개발하는 강력한 개방형 모델의 잠재적 위협 등 다른 AI 현안에 대한 대응은 뒤로 미룬다는 지적을 낳고 있다.