댓글 속 해외 연계 활동, 근거까지 짚는 AI 개발

온라인 뉴스 댓글에서 해외 세력과 연계된 영향력 활동의 의심 징후를 찾고 판단 근거까지 보여주는 인공지능 기술이 개발됐다. KAIST 문화기술대학원 이원재 교수와 전산학부 차미영·오혜연 교수 공동연구팀은 독일 막스플랑크 연구소 토르스텐 홀츠 교수와 함께 설명 가능한 AI를 구축했다. 분석 결과 네이버 뉴스 이용자 약 400만 명 가운데 의심 계정 2만3998개가 식별됐다.

연구진은 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개에서 분석을 시작했다. 이들 계정과 연결됐거나 같은 기사에 반복적으로 댓글을 단 계정을 추적하고, 2006년부터 2025년까지 작성된 네이버 뉴스 댓글 1억1000만여 건을 살폈다. AI는 외국 연계를 의심할 표현과 맥락을 먼저 찾은 뒤 도덕적 비난이나 맹목적 찬양 등 양극화를 조장하는 감정을 판별하고, 그 감정이 향한 국가와 대상도 확인했다.

기존 탐지 기술은 계정을 온라인 영향력 공작 대상으로 분류하더라도 의심 사유를 명확히 설명하지 못하는 한계가 있었다. 새 기술은 판단에 사용된 댓글 표현을 제시해 사용자가 근거를 직접 검토하도록 설계됐다. 계정별 활동 빈도와 활동 기간, 다른 의심 계정과의 연관성도 함께 분석한다. 온라인 영향력 공작은 특정 세력이 댓글이나 게시물을 조직적으로 반복·확산해 대중의 인식과 여론에 영향을 주려는 의도적 활동을 뜻한다.

의심 계정의 메시지는 한 정치 진영을 일관되게 지지하기보다 한국 사회 내부의 대립을 키우는 양상을 보였다. 호응이 많았던 상위 10개 표적 중 7개가 국내 유명 정치인이었으며, 진보와 보수 진영의 전·현직 대통령과 대선 후보, 정당이 특정 이념에 치우치지 않고 대상에 포함됐다. 연구진은 선거나 국가적 위기 때 AI가 우선 검토할 계정과 메시지를 선별하고 전문가가 근거를 확인하는 지원 도구로 활용해야 한다고 봤다. 김재홍 박사과정과 김현승 석사과정이 공동 제1 저자로 참여한 연구 결과는 13일 ‘USENIX Security Symposium 2026’에서 발표될 예정이다.