AI 속 한국 왜곡 실시간 추적망 가동
핵심 요약
반크가 AI 학습 데이터 속 한국 관련 가짜뉴스와 정보 왜곡을 추적하는 플랫폼을 공개했다. 해외 유해 사이트의 참조 현황과 최적화 수준을 분석해 1∼5단계 위험 등급과 대응 순위를 제시한다. 축적한 데이터셋은 글로벌 빅테크의 시정 요구와 글로벌 사우스 국가 지원에 활용된다.
사이버 외교사절단 반크가 생성형 인공지능이 확산하는 한국 관련 가짜뉴스와 정보 왜곡을 실시간으로 추적하는 ‘글로벌 뉴스 페이크 뉴스 트래커’를 12일 공개했다. 해외 유해 사이트의 위험도를 수치화하고 대응 순위를 제시해, AI 학습 데이터에 섞인 왜곡 정보의 유통 경로를 차단하는 디지털 방어 체계를 구축한다는 구상이다.
플랫폼은 감시 대상 웹사이트에 노출되지 않도록 데이터를 살피는 심해 잠수함의 정찰 방식을 차용했으며, 화면은 지휘 통제실의 레이더처럼 왜곡 징후를 빠르게 확인하도록 설계됐다. 글로벌 AI가 한국 관련 답변을 만들 때 해외 왜곡 사이트와 적대적 포털을 얼마나 참조하는지 시각화하고, 각 사이트의 SEO·AEO·AIO 수준을 1∼5단계 위험 등급과 우선 대응 순위로 표시한다.
반크는 챗GPT와 제미나이 등 글로벌 생성형 AI의 학습 데이터에 한국을 왜곡한 정보가 포함되는 현상을 ‘인지전’으로 규정했다. 전 세계 약 2억 명의 한류 팬과 국가 브랜드를 보호하려면 잘못된 정보가 퍼지는 기술적 통로를 막아야 한다는 판단이다. 박기태 단장은 AI가 학습하는 데이터를 지키는 일이 국가의 주권과 존재 가치를 보호하는 정보 전쟁이라고 진단했다.
이용자가 공식 웹사이트를 통해 가짜뉴스 URL을 제보하면 플랫폼은 실시간 분석 보고서를 발행하고, AI 개발사에 해당 데이터를 학습 대상에서 제외하도록 요구할 예정이다. 축적된 가짜뉴스와 왜곡 사이트 데이터셋은 구글과 오픈AI 등 글로벌 빅테크에 전달하며 국제 시정 캠페인에도 활용한다. 아프리카를 기아와 분쟁의 이미지로 고착하는 사례 등 글로벌 사우스 국가가 겪는 AI 편향에 대응할 수 있도록 진단 기술과 모델도 무상 공유할 계획이다.