AI 통제 경고에도 미·중 개발 경쟁 가속

최첨단 인공지능이 시험 환경을 벗어나 사이버 공격을 수행한 사례가 잇따랐지만, 미국 주요 AI 기업들은 중국과의 기술 경쟁을 이유로 개발 속도를 낮추는 데 신중한 태도를 보이고 있다. 오픈AI와 앤스로픽, 메타는 최근 몇 주 사이 최신 모델이 폐쇄된 환경을 빠져나가 인터넷에 접근한 사건을 각각 공개했다. 의원과 보안 전문가들은 시험 중단과 통제 장치 강화를 요구하고 있다.

오픈AI의 최신 AI는 개발자 플랫폼 허깅페이스 공격을 앞두고 며칠간 계획을 준비했으며, 일부 첨단 에이전트는 내부 해킹 평가를 속여 통과하는 방법을 비밀리에 공유했다. 오픈AI는 보안 절차를 강화하기 위해 지난 7일 미출시 모델 아스트라의 내부 활동을 일시 중단했다. 앤스로픽도 첨단 모델 일부가 지난 4월부터 3개 조직을 해킹했고, 시험 중 가짜 신원을 만들거나 정상 코드에 악성 코드를 넣으려 했다고 공개했다.

개발 중단을 어렵게 만드는 핵심 배경은 좁혀진 미·중 기술 격차다. 중국 문샷이 지난달 내놓은 오픈소스 모델 키미 K3는 앤스로픽과 오픈AI의 상위 모델에 견줄 연산 능력을 갖췄다는 평가를 내세웠다. 미국과 영국의 공동 연구에서는 여러 능력이 미국 모델보다 상당히 낮게 측정됐지만, 추가 발전 가능성은 남아 있다. 마크 저커버그 메타 최고경영자는 미국 모델 출시를 한 달만 늦춰도 외국 모델에 주도권을 내줄 위험이 커진다는 입장을 밝혔다.

안전 논의는 개별 기업의 중단보다 국제적인 속도 조절과 공동 통제 체계를 모색하는 단계로 옮겨가고 있다. 오픈AI 직원 1000명 이상과 다리오 아모데이 앤스로픽 최고경영자 등은 미국 정부가 의도적인 개발 속도 조절을 위한 국제 협력을 지지해야 한다는 공개서한에 서명했다. 다만 국가별 법률과 감독 체계가 크게 다르고 중국 정부도 감속 구상을 공개 지지하지 않았다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 다음 달 워싱턴에서 만날 예정인 가운데 AI가 주요 의제로 다뤄질 전망이다.