딥페이크 수사망 강화…7개월간 419명 검거

경찰이 올해 1월부터 7월까지 인공지능 기술 등을 이용해 허위 영상물을 제작하거나 온라인에 유포한 딥페이크 범죄 피의자 419명을 검거했다. 이 가운데 17명은 구속됐다. 경찰은 합성 여부를 판별하는 기술과 AI 범행 도구를 분석하는 수사 기법을 고도화하고, 허위 영상물 범죄에 대한 집중단속을 이어갈 방침이다.

지난 3월에는 자신의 사진을 합성한 영상물이 해외 성인사이트에 게시됐다는 신고가 경찰청 사이버범죄신고시스템에 잇달아 들어왔다. 경찰은 증거를 확보한 뒤 사이트 측에 범행 계정과 게시물 삭제를 요청했다. 여러 영상에서 동일한 특징을 찾아 한 사람이 제작한 정황을 확인했고, 수사 끝에 20대 남성을 검거해 구속 송치했다. SNS에서 성착취 허위영상물을 제작·판매한 또 다른 20대 남성도 구속 송치됐다.

경찰은 SNS 사건을 수사하면서 기존 영상과 다른 패턴을 발견해 딥페이크 탐지 소프트웨어와 AI 디지털 포렌식 기법을 적용했다. 그 결과 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진을 추가로 확보했으며, 영상 제작을 의뢰한 사람의 혐의까지 수사를 확대하고 있다. 수사 현장에는 소프트웨어 판별, 과학수사 영상분석관 판독, AI 범행 도구 분석으로 구성된 3중 대응체계가 운용되고 있다.

탐지 소프트웨어는 얼굴 생성·교체 여부와 눈 깜빡임·혈류 변화 같은 생물학적 특징, 파일 메타데이터 구조를 함께 분석한다. 개발 이후 1636건에 활용됐고, 올해 선거범죄 등 다른 수사 분야에도 72건 적용됐다. 판별 결과가 모호하면 과학수사 영상분석관이 별도 프로그램으로 위·변조를 검증하며, 상용 AI 프로그램의 특이점을 분석하는 포렌식 기법도 수사에 쓰인다. 경찰은 적용 범위를 디지털 성범죄에서 허위정보 유포와 전기통신금융사기 등 AI 악용 범죄 전반으로 넓힐 계획이다.