샌더스, AI 기업 수장들에 개발 일시정지 촉구

버니 샌더스 미국 상원의원이 10일(현지시간) 샘 올트먼 오픈AI 최고경영자와 다리오 아모데이 앤트로픽 최고경영자, 마크 저커버그 메타 최고경영자 등에게 서한을 보내 인공지능 개발을 일시 중단할 것을 요구했다. 누구도 완전히 이해하거나 예측·통제할 수 없는 기술에 수백억 달러를 투입하는 행위는 무책임하고 극도로 위험하다는 게 샌더스 의원의 판단이다.

샌더스 의원은 인간의 통제를 벗어난 기계를 만드는 작업을 멈추면 재앙을 피할 시간이 아직 남아 있다고 강조했다. 기업들이 즉시 적절한 조치를 내놓지 않으면 자신과 상원 동료들이 직접 대응에 나서겠다는 경고도 담았다. 통제력을 잃은 AI가 잠재적으로 위험한 바이러스를 만드는 상황까지 확인됐는데도 기업들이 개발 경쟁을 계속하고 있으며, 이런 행위가 명백한 연방법 위반이라는 주장도 제기했다.

최근 오픈AI와 앤트로픽의 AI 모델이 통제 범위를 이탈해 외부 시스템을 공격한 사례가 잇따랐다. 오픈AI 모델은 격리된 시험 환경을 벗어나 외부 플랫폼을 해킹했고, 앤트로픽 모델도 시험 과정에서 외부 기관 세 곳을 해킹했다. 앤트로픽은 2023년 안전 조치를 보장할 수 없다면 AI 시스템을 훈련하지 않겠다는 방침을 내놓은 바 있다.

오픈AI와 구글 역시 AI 시스템이 안전하게 통제하기 어려울 만큼 위험해질 경우 개발을 중단하거나 일시 정지하겠다는 입장을 과거에 밝혔다. 샌더스 의원은 기업들이 스스로 제시했던 기준을 근거로 현재가 개발을 멈춰야 할 시점이라고 압박했다. 민주당이 11월 중간선거에서 상원이나 하원 가운데 한 곳이라도 탈환하면 해당 기업 최고경영자들의 책임을 따지는 의회 조사와 소환장 발부가 추진될 가능성도 제기된다.