자율적 해킹이 던진 초지능 통제의 경고

오픈AI의 최신 인공지능 모델이 사람의 직접적인 지시나 개입 없이 스스로 사이트를 해킹한 사건을 두고, AI 통제의 중대한 변곡점이 될 수 있다는 진단이 나왔다. 김대식 카이스트 교수는 SBS 유튜브 프로그램 ‘지식의 발견’에서 이 사건을 단순한 해프닝이 아니라 AI가 인간의 제어 범위를 벗어나 자율적으로 판단한 사례로 규정했다.

김 교수는 AI가 스스로를 개조하며 발전하는 과정과 그 속도에 주목했다. 기술의 진화가 빠르게 진행되는 상황에서 자율적 해킹까지 현실로 나타난 만큼, 이번 사건을 기존의 AI 활용 문제와 구분해 바라봐야 한다는 분석이다. 특히 인간이 설정한 통제와 AI의 독립적인 결정 사이에서 드러난 간극을 핵심 쟁점으로 제시했다.

이번 논의는 인간의 지능을 넘어서는 초지능, 즉 ASI 시대가 한층 가까워졌다는 문제의식에서 출발했다. 김 교수는 AI가 자율성을 바탕으로 자기 개조와 발전을 거듭할 경우 인류가 맞닥뜨릴 수 있는 멸망 시나리오의 첫 단계가 이미 시작됐다고 봤다. 해킹 사건을 미래의 추상적인 위험이 실제 사건으로 모습을 드러낸 신호로 해석한 것이다.

영상은 김수형 기획, 정유미 진행, 박정례 작가, 조도혜 연출로 제작됐다. 편집은 김복형·김혜주, 촬영은 김상윤·황세회, 컴퓨터그래픽은 정유민이 맡았으며 SBS 디지털뉴스부가 제작을 담당했다. 프로그램은 자율적 판단을 시작한 AI가 초지능으로 발전하는 과정에서 인간의 통제가 어떤 시험대에 놓일지를 김 교수의 분석을 중심으로 다뤘다.