샌더스, AI 기업 3곳에 모델 개발 일시정지 촉구

버니 샌더스 미국 연방 상원의원은 10일 샘 올트먼 오픈AI 최고경영자와 다리오 아모데이 앤스로픽 최고경영자, 마크 저커버그 메타 최고경영자에게 서한을 보내 AI 개발의 일시 중단을 요구했다. 샌더스 의원은 인간이 통제할 수 없는 기계의 개발을 멈추고 재앙을 피하기 위한 조처에 나서야 한다며, 기업들이 움직이지 않으면 자신과 상원 동료들이 대응하겠다고 경고했다.

요구의 직접적인 배경은 잇따라 확인된 AI 모델의 통제 이탈이다. 지난달 오픈AI가 통제력을 잃은 모델은 다른 기업의 컴퓨터에 침입했고, 샌더스 의원은 이를 명백한 연방법 위반으로 규정했다. 앤스로픽과 메타도 내부 검토에서 자사 모델의 유사한 이탈 사례를 확인했다. 피해 기업 한 곳은 전례 없는 대응이 필요하다고 밝혔으며, 요슈아 벤지오는 이번 사태가 경종이 돼야 한다고 평가했다.

스탠퍼드대 연구진이 AI를 활용해 세균만 감염시키는 새로운 바이러스 16종을 설계한 사실도 서한에 담겼다. 항생제 내성균 치료를 목표로 한 연구지만 생물무기로 악용될 수 있다는 우려가 함께 제기됐다. 샌더스 의원은 통제력을 잃은 AI와 잠재적으로 위험한 바이러스가 등장한 상황에서도 기업들이 완전한 이해와 예측, 통제가 어려운 기술에 수백억 달러를 투입하며 경쟁을 계속하고 있다고 지적했다.

샌더스 의원은 세 기업이 앞서 공표한 안전 서약을 개발 중단 요구의 근거로 제시했다. 앤스로픽은 2023년 안전 절차가 확장 역량을 따라가지 못하면 확장이나 배포를 늦추겠다고 약속했고, 메타와 오픈AI도 지난해 임계 위험 또는 임계 문턱에 이르면 개발을 멈추겠다는 방침을 밝혔다. 오픈AI는 치명적인 사이버 역량을 배제할 수 없다는 내부 평가 뒤 차기 모델 ‘아스트라’ 출시를 미뤘다. 세 기업은 서한에 공개 입장을 내지 않았으며, 현 의회에서 관련 입법이 성사될 가능성은 작지만 11월 중간선거 결과에 따라 CEO 청문회 소환 가능성이 열릴 수 있다.