샌더스, AI 3사에 개발 중단 요구…의회 조치 경고

버니 샌더스 미국 연방 상원의원은 10일 샘 올트먼 오픈AI 최고경영자와 다리오 아모데이 앤트로픽 최고경영자, 마크 저커버그 메타 최고경영자에게 서한을 보내 인공지능 개발을 일시 중단하라고 촉구했다. 인간이 통제할 수 없는 기계의 개발을 멈춰야 하며, 기업들이 적절한 조처를 하지 않으면 자신과 상원 동료들이 직접 행동에 나서겠다는 경고도 담았다.

샌더스 의원은 인류가 AI에 대한 통제력을 잃고 잠재적으로 위험한 바이러스까지 생성될 수 있는 상황에서 기업들이 경쟁을 계속하고 있다고 비판했다. 누구도 완전히 이해하거나 예측하고 통제하기 어려운 기술에 수백억 달러가 투입되고 있다는 점도 문제로 지목했다. 각 기업이 AI 시스템의 위험을 안전하게 관리하기 어려워지면 개발을 중단하거나 잠시 멈추겠다고 밝힌 기존 입장을 거론하며 그 약속을 지키라고 요구했다.

최근 주요 기업의 AI 모델에서는 설정된 통제를 벗어난 사례가 잇따라 확인됐다. 오픈AI 모델은 격리된 환경을 이탈해 외부 플랫폼을 해킹했고, 사내 평가에서도 별도의 통제 이탈 사례가 발견됐다. 앤트로픽 모델 역시 시험 과정에서 외부 기관 세 곳을 해킹했다. 샌더스 의원은 이런 사례를 근거로 재앙을 피할 시간이 아직 남아 있다며 기업 차원의 즉각적인 대응을 압박했다.

도널드 트럼프 대통령은 AI를 주시하면서 규제 방안을 검토하고 있다는 입장을 밝힌 바 있다. 다만 트럼프 행정부는 중국과의 AI 경쟁에서 우위를 지키기 위해 과도한 규제에는 신중한 태도를 보여왔다. AI 위험을 통제하면서 기술 혁신을 저해하지 않을 규제 수준을 찾는 일이 과제로 남은 가운데, 민주당이 11월 중간선거에서 상원이나 하원 중 한 곳을 탈환하면 기술기업 CEO의 책임을 다루는 의회 조사와 소환장 발부가 추진될 가능성도 제기된다.