AI의 인간 모방, 이해와 구별해야 하는 이유

기계가 인간을 흉내 내는 시대가 도래했다. 1950년 앨런 튜링이 제안한 모방 게임, 이른바 튜링 테스트는 기계가 문자 대화에서 인간과 구별하기 어려운 수행을 보이면 지능의 행동적 기준으로 삼을 수 있다는 구상이었다. 70여 년 후, 캘리포니아대학교 샌디에이고 연구진이 GPT-4를 대상으로 한 실험에서 GPT-4는 5분간의 대화 후 54%의 비율로 인간으로 판정됐다. 실제 인간 참가자의 인간 판정 비율은 67%로, 연구진은 통계적으로 유의미한 차이를 보이지 못했다고 보고했다.

그러나 언어학자 에밀리 벤더 등은 거대 언어 모델을 '확률적 앵무새'에 비유하며, 유창한 문장 생성이 의미 이해를 의미하지는 않는다고 주장했다. 철학자 존 설의 중국어 방 사고실험은 형식적 규칙에 따른 기호 조작만으로는 의미 이해가 성립하지 않음을 보여준다. 따라서 현재의 생성형 AI가 자각적 의도로 사용자를 속인다고 볼 근거는 없으며, 문제는 AI의 유창한 출력이 사용자에게 오해를 일으킬 수 있는 효과에 있다.

영화 '이미테이션 게임'과 '모건'은 이러한 논의를 확장한다. 튜링의 에니그마 해독 장치 봄브는 독일어를 이해하지 못했고, 해독 정보의 해석과 활용은 인간의 몫이었다. '모건'에서는 인공 존재의 지위와 대우에 관한 윤리적 문제가 제기된다. 조선의 정약용은 거중기를 고안했지만, 그 기술이 누구의 삶에 어떤 결과를 가져올지는 인간이 판단해야 한다고 보았다. 튜링 테스트가 기계의 인간 유사성을 묻는다면, 다산의 실학은 기술의 목적과 결과를 묻는 시험을 제시한다.

속지 않는 지성은 AI의 능력을 과소평가하지 않으면서도 성급하게 과장하지 않는 태도다. AI의 답변이 매끄러울수록 우리는 그 근거를 확인하고, 모르는 것을 아는 척하지 않는지, 그 판단의 결과를 책임질 사람이 누구인지 집요하게 물어야 한다. 튜링의 질문 이후 75년, 이제 진정한 시험대는 기계가 아니라 인간 자신일 수 있다.