경찰 딥페이크 3단계 분석 가동…7개월간 419명 검거

경찰청 국가수사본부는 딥페이크 탐지 소프트웨어와 과학수사 영상분석관의 판독, AI 범행도구 분석을 잇는 3중 대응체계를 운영하고 있다. 이 체계를 활용한 수사로 올해 1월부터 7월까지 허위영상물 범죄 피의자 419명을 검거하고, 이 가운데 17명을 구속했다.

최근에는 SNS에서 성착취 허위영상물을 제작·판매한 20대 남성을 검거한 뒤 제작 의뢰자를 추적하던 중 기존과 다른 유형의 영상을 찾아냈다. 탐지 소프트웨어와 AI 디지털 포렌식으로 제작 프로그램과 원본 사진을 확보해 의뢰자의 제작 혐의를 수사하고 있다. 지난 3월 해외 성인사이트 합성 영상 피해 신고 사건에서는 범행 계정과 게시물을 삭제하고 영상의 제작 특성을 대조해 동일인 소행 정황을 확인했다. 경찰은 피의자인 20대 남성을 붙잡아 구속 송치했다.

탐지 소프트웨어는 얼굴의 생성·교체 여부를 비롯해 눈 깜빡임과 혈류 변화 같은 생물학적 특징, 파일 메타데이터 구조를 함께 살펴 합성 가능성을 판별한다. 국내 허위영상물에 특화된 AI 모델도 적용됐다. 소프트웨어만으로 결론을 내리기 어려우면 과학수사 영상분석관이 별도 프로그램으로 위·변조 여부를 재검증한다. 해당 소프트웨어는 개발 이후 1636건의 수사에 쓰였으며, 올해에는 선거범죄 등 디지털 성범죄 이외 사건에도 72건 활용됐다.

AI 포렌식은 딥페이크 제작에 악용되는 상용 AI 프로그램의 특성을 분석하는 방식이다. 시·도경찰청 전문분석관은 사용된 프로그램과 변형된 부분을 찾아 제작부터 유포까지의 범행 과정을 재구성하고, 이를 여죄 확인과 고의성 입증 자료로 활용한다. 경찰은 관련 시스템을 계속 고도화하고 집중단속을 이어가는 한편, 탐지·분석 기술의 적용 대상을 디지털 성범죄에서 허위정보 유포와 전기통신금융사기 등 AI 악용 범죄 전반으로 확대할 계획이다.