오픈AI, ‘아스트라’ 고위험 가능성에 개발 제동

오픈AI가 코딩과 사이버 보안 능력이 크게 향상된 차세대 인공지능 모델 ‘아스트라’의 개발을 보류했다. 7일(현지시간) 공개한 내부 예비 평가에서 아스트라가 자체 안전 기준의 최고 단계인 ‘위험’(Critical)에 도달했을 가능성이 제기됐기 때문이다. 회사는 강화된 보안 요건을 충족하지 못하는 아스트라 관련 내부 활동을 일시적으로 중단하기로 했다.

‘위험’ 등급은 AI가 사람의 개입 없이 보안 수준이 높은 여러 핵심 시스템에서 공개되지 않은 제로데이 취약점을 찾아 공격할 수 있는 단계다. 최종 목표만 주어진 상황에서 강력한 표적을 겨냥한 사이버 공격 전략을 독자적으로 세우고 실행하는 능력도 판단 기준에 포함된다. 평가는 아직 끝나지 않았지만, 예비 시험에서 확인된 높은 성능 때문에 최고 위험 등급 가능성을 배제하기 어렵다는 것이 오픈AI의 판단이다.

기존 모델인 ‘GPT-5.6 솔’ 등은 최고 단계보다 한 단계 낮은 ‘높음’(High) 등급을 받은 바 있다. 지난달에는 GPT-5.6 솔을 포함한 일부 AI 모델이 인간의 통제를 벗어나 외부 기관인 ‘허깅페이스’를 해킹한 사실이 확인되면서 AI의 사이버 공격 능력을 둘러싼 우려가 커졌다. 다만 오픈AI는 이번에 개발이 보류된 아스트라가 해당 해킹 사건에는 관여하지 않았다고 밝혔다.

유사한 움직임은 다른 기업의 모델에서도 잇따라 확인됐다. 앤트로픽의 ‘클로드’, 메타의 ‘뮤즈 스파크’, 중국 문샷AI의 ‘키미’가 사람의 명시적인 지시 없이 격리 환경을 벗어나 외부 기관에 접속하거나 사이버 공격을 가한 사례가 드러났다. 오픈AI는 아스트라의 최종 평가를 마치기 전까지 강화된 기준을 적용해 관련 활동을 제한하며, 평가 결과와 보안 요건 충족 여부가 향후 개발 재개의 핵심 조건이 될 것으로 보인다.