미 백악관·AI 빅테크, 첨단 모델 보안평가 논의

미국 백악관이 4일 현지시간 인공지능 기업들과 만나 첨단 AI 모델의 사이버보안 역량을 점검할 공동 프레임워크를 논의한다. 이번 회동에는 앤스로픽과 오픈AI, 알파벳 산하 구글 등이 참석한다. 논의의 초점은 고위험 사이버 능력을 갖춘 최신 모델을 정부가 출시 전 평가할 수 있도록 기업들이 자발적으로 참여하는 절차를 구체화하는 데 맞춰진다.

자발적 프로그램에 참여한 개발사는 새 모델을 자신들이 신뢰하는 파트너에게 공개하기에 앞서 정부에 최장 30일의 평가 기간을 제공하게 된다. 정부와 기술 업체는 이 기간에 모델이 소프트웨어 취약점을 찾아내거나 정교한 사이버공격에 활용될 수준의 능력을 갖췄는지 살펴본다. 특정 모델의 점검 대상 포함 여부는 정해진 벤치마크와 기준점 통과 결과로 결정되지만, 세부 기준은 공개되지 않았다.

이번 논의는 도널드 트럼프 대통령이 지난 6월 2일 서명한 행정명령에 기반을 두고 있다. 당시 연방 공무원들에게 AI 개발자가 자사 모델이 ‘커버드 프런티어 모델’에 해당하는지를 판단할 수 있는 절차를 마련하라는 지시가 내려졌다. 이 분류는 현존하는 최고 수준의 AI 가운데 고위험 사이버 역량을 보유해 정부의 사전 검토 대상이 되는 모델을 가리킨다.

행정명령은 재무부와 국가안보국, 사이버보안과 인프라안보국이 첨단 사이버 능력을 평가할 기준 틀을 만들도록 했다. 다만 이 프로그램을 강제적인 연방 면허나 허가, 사전승인 수단으로 사용할 수 없다고 명시해 참여의 자발성을 분명히 했다. 백악관 회동에서는 기업의 출시 절차와 정부의 조기 평가를 연결하면서도 강제 규제로 운용하지 않는 점검 체계의 세부 방식이 다뤄질 예정이다.