경찰, 치안 AI 전 주기 위험관리 기준 마련

경찰청이 공공기관의 인공지능(AI) 영향평가 의무화에 앞서 치안 AI의 기획·개발·운영 전 과정에 적용할 신뢰성 기준과 위험관리방안을 마련했다. 국민 기본권에 직접 영향을 미치는 치안 업무의 특성을 반영해 국내법 준수에 그치지 않고 국제규범 수준의 안전성과 신뢰성을 확보하는 체계를 설계했다.

정책연구용역을 맡은 씽크포비엘은 AI 위험도에 따라 안전관리 수준을 달리하는 세부 기준을 제시했다. 국내 AI기본법 등 법령을 준수하는 단계부터 국제규범에 맞춰 기준을 높이는 단계까지 구분했다. 경찰청은 과학기술정보통신부의 AI 영향평가 가이드라인 등을 경찰 조직 환경에 맞게 적용하는 방안도 연구했다.

내년 2월 인공지능 및 데이터 기반 행정 활성화에 관한 법률 시행으로 공공기관의 AI 영향평가와 위험관리방안 수립이 의무화될 예정이다. 경찰청은 이보다 앞서 관련 연구를 진행했다. 치안 AI는 수사와 범죄경력 등 민감정보를 다루며 사회적 파급력이 큰 만큼, 국민 눈높이에 맞는 신뢰성 기준 적용을 검토하고 있다.

위험관리는 AI 도입 발주 단계의 적합성·위험요소 판별부터 개발 중 기준 충족 여부 검증, 운영 단계의 적정성 점검까지 이어진다. 씽크포비엘은 사회적 수용성을 중심에 두고 EU와 미국 등 글로벌 규범을 국내 환경에 맞춰 적용했다고 설명했다. 전문가들은 법적 의무화에 앞선 경찰의 체계 마련이 국제적으로 드문 사례이며, 2024년 치안 AI 도입 3대 전략 가운데 ‘규범 합치적 활용’과 맞닿아 다른 공공기관의 관리체계 구축에도 참고가 될 수 있다고 평가했다.