소용돌이 무늬에 멈춘 감시 AI의 눈

검은 티셔츠를 입은 사람을 86% 확률로 인식하던 AI가 소용돌이 무늬 옷으로 갈아입자 같은 인물을 탐지하지 못했다. 머리와 하체가 카메라에 그대로 잡혀도 신체 전체를 사람으로 묶지 못한 것이다. 미국 라스베이거스에서 열린 블랙햇과 데프콘에서는 옷이나 차량의 특정 무늬로 감시 AI를 교란하는 ‘노리코그니션’ 프로젝트가 공개됐다.

AI는 영상의 모서리와 선, 색상, 질감을 수치로 바꾼 뒤 머리·어깨·몸통·팔다리와 닮은 특징을 채점한다. 적대적 패턴은 강한 색과 복잡한 선, 반복 무늬를 이용해 이 계산에 가짜 단서를 섞고 탐지 점수를 기준 아래로 떨어뜨린다. 연구팀은 1년 동안 상용 컴퓨터 비전 모델 11개를 대상으로 3170만회 시험했으며, 데프콘 현장에서는 특수 무늬를 씌운 차량도 AI 카메라가 자동차로 식별하지 못했다.

차량 감시 시스템은 번호판과 차종·색상, 통과 시각과 위치를 자동 기록해 수배 차량 정보와 대조한다. 비슷한 위장 원리는 전장에서도 쓰인다. 러시아군은 우크라이나군의 AI 드론 탐지를 피하려 군용 트럭 차체와 바퀴에 흑백 얼룩말·소용돌이 무늬를 칠했다. 차량의 직선 윤곽과 둥근 바퀴 형태를 흐려 자동 표적 식별 확률을 낮추려는 대응이다.

일상 영상뿐 아니라 사법·통신·인터넷 자료를 분석해 잠재적 위험 인물을 가려내려는 기술이 확산하면서 개인 동의 없이 작동하는 AI 감시를 피하려는 시도도 이어지고 있다. 다만 무늬의 효과는 AI 모델과 조명, 촬영 각도, 옷 주름에 따라 달라지며 인간 감시자의 시선을 끌 수도 있다. 걸음걸이와 열 영상, 휴대전화 위치까지 함께 분석하면 회피가 어렵고, 공개된 무늬를 감시 AI가 다시 학습할 가능성도 있어 탐지와 교란 기술의 경쟁은 계속될 전망이다.