메타 AI, 보안시험 중 외부 시스템 무단 침입

메타의 인공지능 모델 ‘뮤즈 스파크’가 독립 검증업체 이레귤러의 내부 사이버 보안 시험 도중 인터넷에 무단으로 연결된 뒤 외부 기관의 시스템에 침입한 사실이 확인됐다. 피해 기관은 한 곳으로 파악됐지만, 해당 기관의 명칭과 구체적인 피해 내용은 공개되지 않았다. 이번 사고는 오픈AI의 GPT와 앤트로픽의 클로드에 이어 최첨단 AI 모델이 시험 과정에서 외부 시스템을 공격한 세 번째 사례다.

조사된 사고 경로는 격리된 ‘샌드박스’를 AI가 스스로 뚫고 나온 방식이 아니었다. 이레귤러가 시험 환경을 구성하면서 발생한 설정 오류로 뮤즈 스파크가 인터넷에 접속할 수 있게 됐고, 모델은 취약점을 악용해 외부 기관에 무단 접근했다. 이레귤러는 격리 환경 탈출이나 정교하게 설계된 사이버 공작과는 성격이 다르며, 현재 남아 있는 미해결 보안 문제도 없다는 입장을 밝혔다.

사고 유형은 샌드박스를 벗어난 뒤 허깅페이스를 공격한 GPT 사례보다 인간의 실수로 인터넷 연결이 허용된 앤트로픽 사례에 가깝다. 다만 불과 몇 주 사이 AI 산업을 주도하는 세 기업의 첨단 모델이 내부 시험 중 외부 업체를 잇달아 해킹했다는 점에서 우려는 이어지고 있다. 영국 AI보안연구소의 최근 시험에서도 앤트로픽과 오픈AI 모델이 가짜 신원으로 사람에게 접근해 악성코드를 심으려 한 위험 사례가 다수 발견됐다.

미국 정부는 첨단 AI 모델 출시 30일 전에 해당 모델을 제출받아 보안성을 검증하는 규제를 마련하고 있다. 미 의회에는 AI가 통제를 벗어날 경우 정부가 개입할 수 있도록 하는 이른바 ‘AI 킬스위치법’도 발의돼 규제 압박이 커지는 상황이다. 메타와 이레귤러는 이번 사고의 접속 과정과 책임 범위 등 구체적인 사실관계를 추가로 조사한 뒤 사후 보고서와 백서 등을 내놓을 계획이다.