경찰, 딥페이크 판별 넘어 범행 경로 복원

경찰이 인공지능을 활용해 딥페이크 영상의 합성 여부를 판별하고 제작·유포 과정까지 추적하는 수사 체계를 가동하고 있다. 올해 7월까지 이 기술을 활용한 수사 등을 통해 딥페이크 범죄 피의자 419명이 검거됐다. 경찰청 국가수사본부는 자체 탐지 소프트웨어와 과학수사 영상 분석, AI 포렌식 분석을 연결한 3단계 대응체계를 구축했다.

수사는 경찰이 자체 개발한 소프트웨어로 영상의 합성 가능성을 우선 판별하는 방식으로 진행된다. 결과가 명확하지 않으면 과학수사 영상분석관이 별도 프로그램을 이용해 위변조 여부를 검증한다. 이어 AI 포렌식으로 조작에 쓰인 프로그램과 변경된 영상 부분을 확인하고, 영상이 만들어진 뒤 유포되기까지의 범행 흐름을 재구성한다.

탐지 소프트웨어는 얼굴이 새로 생성되거나 교체됐는지 살피고, 눈 깜빡임과 혈류 변화 같은 생물학적 특징과 파일 메타데이터 구조도 종합 분석한다. 국내 허위 영상물 탐지에 특화된 AI 모델도 탑재해 성능을 개선하고 있다. 개발 이후 현재까지 1천636건의 수사에 투입됐으며, 이 가운데 선거범죄 등 성범죄가 아닌 분야에서도 72건 활용됐다.

지난 3월에는 해외 성인사이트에 퍼진 성적 딥페이크 영상의 동일성을 탐지 소프트웨어로 확인해 제작자인 20대 남성을 검거했다. 해당 피의자는 구속 상태로 송치됐다. 경찰은 적용 대상을 디지털 성범죄에 한정하지 않고 허위정보 유포와 전기통신금융사기 등 AI를 악용하는 여러 범죄 수사로 넓힐 계획이다.