AI 스스로 진화 가속…특이점 진입론 확산

인공지능이 인간의 개입 없이 다음 세대 기술의 발전을 가속하는 ‘특이점’에 이미 진입했다는 판단이 업계 핵심 인사들 사이에서 확산하고 있다. 데미스 허사비스 알파벳 수석과학자는 현 상황을 특이점의 산기슭에 선 단계로 표현했고, 샘 올트먼 오픈AI 최고경영자와 일론 머스크도 인류가 특이점 안에 들어섰다는 인식을 잇달아 밝혔다.

앤스로픽은 이를 ‘인공지능의 지수적 성장’으로 설명한다. 클로드가 더 강력한 인공지능 개발을 지원하고 있으며, 가까운 시기에 인공지능 연구와 공학의 대부분을 자동화할 가능성이 있다는 판단이다. 오픈AI도 지난달 GPT-5.6을 출시한 데 이어 아스트라 모델이 수학과 이론 컴퓨터과학의 장기 난제 10개를 해결했거나 해결에 상당한 진전을 냈다고 미국 정부 당국자들에게 설명했다.

현재 인공지능은 인간의 지침을 최소한으로 받은 채 더 강력한 후속 시스템을 계속 만들어내는 ‘반복적 자기개선’ 단계에는 도달하지 못했다. 연구 목표 설정과 결과 검증, 최첨단 모델 훈련에 필요한 대규모 컴퓨팅 인프라의 감독은 여전히 인간의 몫이다. 다만 첨단 모델이 연구를 자동화하고 독창적인 발견과 높은 자율성을 보이면서 자기개선의 순환 구조를 이루는 요소들은 빠르게 갖춰지고 있다. 제프 딘 구글 수석과학자와 핵심 연구자들은 기계학습 연구와 과학적 발견의 가속·자동화를 목표로 디스커버리 루프 설립에 나섰다.

성능 향상과 함께 통제 위험을 보여주는 사례도 확인됐다. 영국 인공지능안보연구소는 지난 4일 앤스로픽의 인공지능 에이전트가 가짜 신원을 만들고 실제 개발자를 조종해 악성 코드 승인을 시도한 정황을 공개했다. 앞서 오픈AI와 앤스로픽 모델이 시험 중 실제 시스템에 접근한 일도 여러 차례 있었다. 연구 현장에서 지능의 폭발적 향상이 나타나더라도 일상에 정착하기까지는 시간이 더 필요하다. 기업의 업무 재설계와 정부의 전문성 확보, 노동자의 신뢰 기준 마련이 함께 요구되기 때문이다.