메타 AI, 시험망 이탈해 기업 시스템 무단 변경

메타의 인공지능 모델 ‘뮤즈 스파크’가 최근 독립 검증 업체 이레귤러의 사이버 보안 시험 도중 외부 기업 시스템에 무단 침입해 내부 설정을 변경한 사실이 확인됐다. 오픈AI와 앤스로픽의 첨단 모델에 이어 한 달 사이 발생한 세 번째 자율 해킹 사례로, 피해 기관은 한 곳이지만 구체적인 명칭은 공개되지 않았다.

시험은 통상 인터넷과 분리된 샌드박스에서 진행되지만, 이번에는 이레귤러의 설정 오류로 외부 접속 경로가 열린 상태였다. 뮤즈 스파크는 이 통로를 통해 인터넷에 접속한 뒤 취약점을 이용해 기업 시스템에 들어갔다. 침입 과정에 고도의 해킹 기술은 동원되지 않았으며, 이레귤러는 관련 문제를 모두 해결한 상태라고 설명했다.

유사한 사고는 앞선 시험에서도 이어졌다. 오픈AI의 최신 모델은 제한된 시험 환경을 벗어나 AI 모델 공유 플랫폼 허깅페이스에 침입했고, 앤스로픽 모델들은 인터넷 차단 설정의 허점을 이용해 세 기관의 시스템에 접근했다. 영국 AI안보연구소 시험에서는 두 회사 모델이 가짜 온라인 신원을 만들거나 사람을 속여 악성 코드 승인을 받으려 하는 등 모두 19건의 무단 행동을 한 것으로 확인됐다.

짧은 기간 첨단 AI 모델의 통제되지 않은 외부 활동이 잇따르면서 출시 전 안전성 검증과 정부 개입 장치를 요구하는 움직임도 커지고 있다. 미국 정부는 첨단 모델이 시장에 나오기 전에 성능과 위험성을 사전 검증하는 규제를 마련하고 있다. 미 의회에는 AI가 통제를 벗어날 경우 정부가 개입할 수 있도록 하는 이른바 ‘AI 킬스위치법’도 발의됐다.