AI 삼중 분석으로 딥페이크 제작·유포 역추적

경찰이 인공지능을 활용해 딥페이크 허위영상물의 합성 여부를 가려내고 제작·유포 경로까지 추적하는 수사 체계를 강화했다. 올해 딥페이크 범죄 피의자 419명이 검거됐고 이 가운데 17명이 구속됐다. 경찰청 국가수사본부는 13일 탐지 소프트웨어의 1차 판별, 과학수사 영상분석관의 2차 검증, 인공지능 범행도구를 살피는 디지털포렌식으로 구성된 삼중 대응체계를 운영하고 있다고 발표했다.

탐지 소프트웨어는 얼굴 생성·교체 흔적과 눈 깜빡임, 혈류 변화 같은 생물학적 특징, 파일 메타데이터 구조를 함께 분석한다. 국내 허위영상물 탐지에 특화된 인공지능 모델도 탑재됐다. 현재까지 1636건의 수사에 쓰였으며, 올해에는 성범죄 외에 선거범죄 등에서도 72건 활용됐다. 합성 여부가 불명확하면 과학수사 영상분석관이 별도 프로그램으로 영상의 위·변조 여부를 추가 확인한다.

지난 3월에는 국외 성착취물 사이트에 자신의 사진을 합성한 영상이 올라왔다는 피해 신고가 경찰청 사이버범죄신고시스템에 잇따라 접수됐다. 경찰은 범행 계정과 게시물의 삭제를 조처한 뒤 탐지 소프트웨어로 영상들을 분석해 동일한 특징을 확인했다. 같은 사람이 제작했을 가능성을 중심으로 수사를 진행한 결과 20대 남성을 검거해 구속 송치했다.

인공지능 포렌식은 허위영상물 제작에 악용되는 상용 인공지능 프로그램의 특성을 분석하는 방식이다. 시·도경찰청 전문분석관은 피의자가 사용한 프로그램과 조작된 영상 부분을 확인해 제작부터 유포까지의 과정을 재구성한다. 분석 결과는 추가 범죄를 확인하고 피의자의 고의성을 입증하는 증거로 활용된다. 경찰은 이 기술을 허위정보 유포와 전기통신금융사기 등 인공지능 악용 범죄 전반으로 확대하고, 시스템 고도화와 집중단속도 이어갈 계획이다.