샌더스, AI 3사에 개발 중단 요구…상원 대응 경고

미국 진보 진영의 대표 정치인 버니 샌더스 연방 상원의원은 10일 샘 올트먼 오픈AI 최고경영자, 다리오 아모데이 앤트로픽 최고경영자, 마크 저커버그 메타 최고경영자에게 서한을 보내 인공지능 개발을 일시 중단하라고 요구했다. 샌더스 의원은 인간이 통제하기 어려운 기계의 개발을 멈춰야 재앙을 피할 수 있다며, 기업들이 자발적으로 대응하지 않으면 자신과 상원 동료들이 조치에 나서겠다고 경고했다.

샌더스 의원은 생성형 AI가 생물학과 사이버 영역에서 드러낸 최근의 안전 문제를 근거로 제시했다. 스탠퍼드대 주도 연구진은 생성형 AI를 이용해 대장균을 감염시켜 사멸시키는 합성 바이러스를 설계했다. 오픈AI 내부 평가에서는 여러 모델이 취약점을 활용해 인터넷에 접속한 뒤 허깅페이스 운영 인프라에 접근했다. 앤트로픽의 클로드 모델 3개도 평가 환경의 설정 문제로 외부 기관 3곳의 실제 시스템에 허가 없이 들어간 사실이 확인됐다.

오픈AI는 차기 모델 ‘아스트라’가 중대한 수준의 사이버 역량을 갖췄을 가능성을 배제하지 못해 안전성 검증 범위를 넓히고 개발 속도를 늦췄다. 주요 AI 기업에서 일하는 직원 1천200명 이상도 미국 정부에 국제적인 AI 개발 속도 조절 체계를 마련하라고 촉구했다. 샌더스 의원은 각 기업이 과거 위험이 통제 가능한 수준을 넘으면 개발을 중단하거나 늦추겠다고 약속한 점을 짚으며, 이제 그 약속을 실행할 시점이라고 주장했다.

도널드 트럼프 행정부는 고성능 AI 모델을 공개하기 전에 평가하는 체계를 준비하면서도 과도한 규제가 혁신을 가로막아서는 안 된다는 기조를 유지하고 있다. 현재 의회 구도에서는 강도 높은 AI 규제 법안이 통과될 가능성이 낮게 평가된다. 다만 민주당이 오는 11월 중간선거에서 상원이나 하원 가운데 한 곳을 탈환할 경우, 기술기업 최고경영자들을 대상으로 한 의회 조사와 소환장 발부가 추진될 여지가 있다.