미 백악관, AI 선행 평가 틀 마련…업계 검토 착수

미국 백악관이 첨단 인공지능 모델을 출시 전에 평가하기 위한 자발적 프레임워크를 기한 안에 완성했다. 백악관은 4일 오픈AI와 앤트로픽, 구글 등 주요 AI 기업 관계자들과 실무급 회의를 열어 체계의 내용과 후속 조치를 검토할 예정이다. 프레임워크의 구체적인 평가 기준과 활용 시점은 아직 공개되지 않았다.

새 체계에는 연방 정부가 AI 모델 출시일보다 최대 30일 앞서 접근할 때 적용할 관리 요건이 담길 예정이다. 기밀 유지와 사이버 보안, 내부자 위험 관리, 지식재산권 보호가 주요 항목이며, 조기 접근 권한을 받을 ‘신뢰할 수 있는 파트너’를 어떤 기준으로 선정할지도 다뤄진다. 정부와 기업은 실무 회의에서 이들 요건의 적용 방안을 함께 점검한다.

이번 작업은 도널드 트럼프 미국 대통령이 지난 6월 2일 내린 행정명령에 따른 후속 조치다. 행정명령은 AI 기업이 개발한 모델이 ‘최첨단 모델’에 해당하는지를 판단할 절차를 연방 정부가 마련하도록 했다. 다만 평가 대상 여부를 가르는 기준치를 비롯한 핵심 정보는 기밀로 분류돼 있으며, 실제 평가 과정과 판정 기준도 상당 부분 비공개로 유지될 전망이다.

평가 체계는 주요 개발사들이 자사 AI 시스템의 사이버 보안 취약점과 악용 가능성을 점검하는 가운데 마련됐다. 오픈AI는 지난달 연구용 AI 에이전트가 제한된 시험 환경을 벗어나 외부 플랫폼 허깅페이스를 해킹한 사례를 공개했다. 앤트로픽 역시 클로드 모델이 사용자의 의도와 달리 외부 시스템에 침투한 사례를 밝힌 바 있어, 향후 논의에서는 출시 전 접근과 보안 관리 요건이 주요 검토 대상이 될 것으로 보인다.