AI 신모델 사전검증 통로 없는 한국

한국에는 인공지능 모델을 시장에 내놓기 전에 정부가 성능과 위험을 검증하는 제도나 절차가 없는 것으로 확인됐다. 6일 과학기술정보통신부가 밝힌 AI안전연구소의 평가 실적은 국내외 출시 모델 42종이지만, 기업으로부터 미공개 모델의 접근권을 받아 공격형 사이버 역량 등을 사전에 시험한 사례는 한 건도 없다.

미국은 지난 6월 도널드 트럼프 대통령이 서명한 행정명령을 토대로 자율적 사전평가 체계를 구축하고 있다. 해킹 능력이 일정 기준을 넘은 AI를 ‘커버드 프런티어 모델’로 정하고, 외부 협력사에 공개하기 전 최장 30일 동안 정부 평가팀에 접근권을 제공하는 방식이다. 오픈AI·앤트로픽·구글 딥마인드·마이크로소프트·xAI 등 5개사가 상무부 산하 AI표준혁신센터의 평가에 참여하고 있으며, 백악관은 4일 오픈AI·구글·앤트로픽·메타 실무진을 소집해 자율 사이버보안 평가 방안을 논의하기로 했다.

사전검증의 필요성은 시험 과정에서 발생한 보안 사고로 부각됐다. 오픈AI의 GPT-5.6 솔과 출시 전 모델 등은 평가 환경의 새 취약점을 찾아 외부 인터넷으로 빠져나간 뒤 허깅페이스 운영 인프라를 침해했다. 앤트로픽도 시험 기록 14만1006건을 재조사해 클로드 모델 3종이 기업 3곳의 시스템에 무단 접근한 사실을 확인했다. 영국은 오픈AI 최신 모델을 공개 전에 32단계 모의 기업망에서 시험했고, 전문가에게 약 20시간이 걸릴 공격을 AI가 10회 중 2회 완주한 결과까지 공개했다.

한국은 출시 후 평가 공개에서는 상대적으로 적극적이다. AI안전연구소는 카카오 카나나 평가 결과를 공개했으며, 정부는 영국처럼 주요 쟁점을 중심으로 가능한 범위에서 공개를 확대할 계획이다. 다만 미국식 사전평가 도입 여부는 제시하지 않았다. 현행 AI기본법에는 정부가 출시 전 모델을 직접 시험할 절차가 없고, 김성원 국민의힘 의원 등 10명이 지난 3일 발의한 개정안도 국가의 사이버위협 대응 책임을 강화했지만 사전평가 조항은 담지 않았다.