1억 건 댓글 속 조직적 조작 계정 AI로 가려냈다

온라인 뉴스 댓글에서 선동적이거나 불쾌감을 유발하는 ‘트롤행동’을 탐지하고, 판단의 근거가 된 문구까지 제시하는 설명 가능한 인공지능 프레임워크가 개발됐다. 이원재 KAIST 문화기술대학원 교수와 차미영 전산학부 교수, 오혜연 교수 공동연구팀은 토르스텐 홀츠 독일 막스플랑크 연구소 교수와 함께 국내 뉴스 댓글에 나타난 외국 연계 의심 단서와 도덕감정 표현, 공격 대상을 단계적으로 분석하는 기술을 구현했다.

연구팀은 이 기술로 2006년부터 2025년까지 20년간 네이버 뉴스 이용자 400만 명이 작성한 댓글 1억1,200만 건을 분석했다. 그 결과 조직적 조작과 일치하는 행동을 보인 계정 2만3,998개를 확인했다. 분석의 출발점은 국가안보전략연구원이 공개한 한국 비난 외국 연계 계정 70개였으며, 기점으로 삼은 계정 대부분은 한국의 주요 인접국 계정이었다. 댓글의 내용과 활동 양상을 넓혀가며 해외 공작 의심 세력의 메시지를 추려냈다.

의심 계정의 주요 공격 대상은 정권별 대통령으로 분석됐다. 이데올로기 홍보와 사회 현안 비난을 나눠 비교한 결과 사회 이슈를 겨냥한 비난 댓글이 10배 더 많았다. 한국 비난 댓글의 평균 ‘좋아요’ 비율은 0.514로 집계됐으며, 분석한 전략 중 평균적으로 ‘좋아요’가 ‘싫어요’보다 많았던 유일한 유형이었다. 대통령선거와 국회의원선거, 지방선거 기간에 새로 활동한 의심 계정은 주당 평균 34.19개로, 비선거 기간의 22.61개보다 약 51% 많았다.

개발된 프레임워크의 파라미터는 약 1억 개 수준이다. 이원재 교수는 챗GPT 4의 파라미터가 약 1조7,500억 개라는 점과 비교해, 댓글 1억2,000만 건을 대형 모델에 직접 올려 분석할 때 발생할 시간과 비용을 줄이도록 경량화했다고 설명했다. 연구진은 선거처럼 사회적 갈등이 커지는 시기에 우선 검토할 메시지를 선별하는 기준이 되고, 갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 전망했다. 차미영 교수는 데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학’의 사례라고 평가했다.