댓글 속 조직적 갈등 증폭, 근거까지 밝힌 AI

KAIST와 독일 막스플랑크 연구소 공동연구팀이 2006년부터 2025년까지 네이버 뉴스 댓글 약 1억1000만 건을 분석해 외국 연계 영향력 활동 의심 계정 2만3998개를 식별했다. 이 기술은 의심 계정을 분류하는 데 그치지 않고 어떤 문구와 행동 양식이 판단에 영향을 줬는지 함께 제시하는 설명 가능한 AI로 설계됐다.

연구에는 KAIST 문화기술대학원 이원재 교수와 전산학부 차미영·오혜연 교수, 막스플랑크 연구소 토르스텐 홀츠 교수가 참여했다. 연구팀은 국가안보전략연구원이 식별한 외국 연계 계정 70개에서 분석을 시작해 관련성이 있거나 같은 기사에 반복적으로 댓글을 남긴 계정을 추적했다. 분석 대상은 네이버 뉴스 이용자 약 400만 명의 활동으로 확대됐다.

AI는 댓글에 나타난 외국 연계 의심 표현과 맥락을 먼저 살핀 뒤 도덕적 비난, 맹목적 찬양처럼 양극화를 키울 수 있는 감정을 분석하고 그 감정이 향하는 국가나 대상을 파악했다. 계정별 활동 빈도와 기간, 다른 의심 계정과의 연결 관계도 함께 점검했다. 기존 탐지 기술이 구체적인 분류 근거를 보여주기 어려웠던 것과 달리, 이번 기술은 판단에 쓰인 댓글 표현을 표시해 전문가가 직접 검토할 수 있도록 했다.

의심 계정들은 특정 정치 진영을 일관되게 지지하기보다 한국 사회의 갈등과 대립을 키우는 메시지를 주로 생산한 것으로 분석됐다. 호응이 많았던 상위 10개 표적 가운데 7개는 국내 유명 정치인이었으며, 진보와 보수 양쪽의 전·현직 대통령과 대선 후보, 정당이 두루 포함됐다. 연구팀은 선거나 국가적 위기 때 포털과 모니터링 기관이 우선 검토할 계정과 메시지를 선별하고 전문가가 최종 판단하는 콘텐츠 관리 도구로 활용해야 하며, AI가 자동 차단이나 제재를 결정해서는 안 된다는 원칙을 제시했다.