딥페이크 수사 다층화…7개월간 419명 검거

경찰청 국가수사본부가 올해 1월부터 7월까지 딥페이크 범죄 피의자 419명을 검거하고 17명을 구속했다. 경찰은 탐지 소프트웨어의 1차 판별, 과학수사 영상분석관의 정밀 판독, 범행에 쓰인 인공지능 도구를 추적하는 디지털 포렌식을 결합한 3단계 수사 체계를 운영하고 있다.

탐지 소프트웨어는 얼굴 생성·교체 흔적뿐 아니라 눈 깜빡임과 혈류 변화 같은 생물학적 특징, 파일 메타데이터 구조를 종합해 합성 여부를 가린다. 국내 허위영상물 판별에 특화된 AI 모델도 지속적으로 개선하고 있다. 개발 이후 1636건의 수사에 투입됐으며, 올해에는 선거범죄를 비롯한 다른 수사 분야에서도 72건 활용됐다. 판별 결과가 불명확하면 영상분석관이 별도 프로그램으로 위·변조 여부를 다시 검증한다.

AI 포렌식은 상용 생성형 AI 프로그램마다 나타나는 특이점을 토대로 사용 도구와 영상에서 변경된 부분을 찾아내는 방식이다. 경찰은 이 분석으로 제작부터 유포까지의 과정을 재구성하고 추가 범죄와 고의성을 확인하고 있다. 지난 3월 해외 성인사이트에 신고자의 사진을 합성한 성적 허위영상물이 잇달아 게시된 사건에서는 영상들의 공통 특징을 확인해 동일인 제작 가능성을 추적했고, 20대 남성을 검거해 구속 송치했다. 범행 계정과 게시물은 증거 확보 뒤 삭제 조치됐다.

SNS 계정으로 성착취 허위영상물을 제작·판매한 또 다른 20대 남성 사건에서는 AI 디지털 포렌식으로 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진을 추가 확보했다. 경찰은 영상 제작을 의뢰한 인물까지 수사를 확대하고 있다. 앞으로 탐지 기술의 적용 대상도 디지털 성범죄에서 허위정보 유포와 전기통신금융사기 등 AI 악용 범죄 전반으로 넓히고, 관련 시스템 고도화와 집중단속을 병행할 방침이다.