치안 명분 AI 감시 확산…시민 정보 점수화

세계 각국의 치안·행정 현장에서 안면 인식과 범죄 예측 등 인공지능 감시 기술이 빠르게 확산하고 있다. 조사 대상 179개국 가운데 최소 97개국이 관련 기술을 사용하는 것으로 파악됐다. 공공 안전과 범죄자 검거가 도입 명분이지만, 시위 참가자의 신원부터 경제 형편과 정신 건강까지 분석 대상이 되면서 인권과 민주주의를 위협할 수 있다는 우려가 커지고 있다.

중국에서는 실시간 안면 인식 시스템이 전국적으로 가동되고 있다. 공안이 내국인뿐 아니라 유학생과 사업가 등 수천 명의 교우 관계와 민감한 정보까지 추적했다는 의심도 제기됐다. 유럽에서는 런던과 파리 경찰이 공공장소와 시위 현장에서 행인의 얼굴을 경찰 보유 정보와 대조하는 기술을 시험했다. 런던경찰청은 지난 5월 두 차례 대규모 시위에 이를 사용했고, 헝가리 당국은 성소수자 행사 참가자 감시에 안면 인식을 활용했다.

감시 범위는 거리의 카메라를 넘어 개인 정보 데이터베이스로 넓어졌다. 영국 브리스틀 시의회와 경찰은 2016년 범죄 예측 데이터베이스 ‘싱크 패밀리’를 구축했다. 당국은 당사자의 동의 없이 주거 상태와 정신 건강 기록 등 민감한 자료를 모았고, 시민 약 50만 명을 알고리즘으로 분석해 개인별 범죄 관련 위험도를 점수화했다. 치안 기술이 개인의 신원과 인맥, 일상과 생활 여건까지 포괄하는 형태로 확장된 것이다.

범죄 예측 시스템에는 가난하거나 복지 지원을 받는다는 이유로 시민을 잠재적 범죄자로 낙인찍을 수 있다는 비판이 뒤따른다. 편견이 포함된 과거 데이터를 학습하면 기존 차별이 반복되거나 고착될 가능성도 제기된다. 시위 현장의 안면 인식은 감시받는다는 두려움을 키워 평화적 집회와 표현의 자유를 위축시킬 수 있다는 지적을 받고 있다. 이탈리아 의회는 최근 생체 인식 기술 일부를 규제하고 개인정보 보호 장치를 보강한 법안을 통과시켰으며, 유럽연합도 AI법을 통해 공공장소의 실시간 생체 인식을 원칙적으로 금지했다.