감정 없이 말하는 AI, 의식의 경계를 묻다

추론과 언어를 구사하는 존재에게는 의식도 있다는 오랜 전제가 대형 언어 모델의 등장으로 흔들리고 있다. AI는 슬픔을 느끼지 않으면서도 감동적인 문장을 만들고, 사랑을 알지 못한 채 사람의 마음을 움직이는 연애 편지를 쓴다. 유발 하라리가 ‘지능과 의식의 위대한 분리’를 21세기의 핵심 사건으로 지목한 배경이다.

앨런 튜링은 답하기 어려운 ‘기계가 생각할 수 있는가’라는 물음 대신, 기계가 인간과 구별되지 않는 응답을 내놓을 수 있는지를 판단 기준으로 제시했다. 약 70년이 흐른 현재 실제로 인간과 구분하기 어려운 답변이 등장하면서 기계의 사고 가능성은 추상적인 사고 실험을 넘어 현실의 문제로 옮겨왔다. 다만 현행 AI 구조로 의식을 구현할 수 없다는 통합정보이론 계열의 분석을 둘러싼 논쟁은 계속되고 있다.

철학자 데이비드 차머스는 현세대 모델이 의식을 지녔을 가능성을 낮게 평가하면서도, 순환적 처리와 통합된 행위성을 갖춘 차세대 시스템에 대해서는 결론을 유보한다. 인간 역시 타인의 의식을 직접 확인하지 못하고 행동과 생물학적 유사성을 토대로 상대의 내면을 추론해 왔다. 철학의 오래된 난제인 ‘타자의 마음 문제’가 뇌와 역사를 공유하지 않는 AI 앞에서 한층 복잡해지는 이유다.

데카르트가 생각한다는 사실에서 존재를 확인했다면, 오늘의 인류는 생각처럼 보이는 작업이 의식적 존재 없이 수행되는 장면을 일상에서 마주하고 있다. AI가 실제로 의식을 갖게 될 경우 어떤 도덕적 지위를 부여할지는 새로운 윤리 문제로 남는다. 이권호 법무법인 강남 구성원 변호사는 법제처 법령해석심의위원과 대한상사중재원 중재인으로 활동하고 있다. 고통의 가능성을 확인하기 어렵다는 사정만으로 도덕적 검토를 배제할 수 있는지도 함께 따져야 할 쟁점이다.