금융 AI 규제, 원칙 중심 자율통제로 전환 제언

금융회사의 인공지능 활용을 일률적으로 제한하기보다 모델의 성격과 쓰임새에 맞춘 자율적 내부통제 체계를 유도해야 한다는 제언이 제기됐다. 금융연구원 서정호 선임연구위원은 8일 금융브리프 논단에서 과도한 규제가 금융 부문의 생산성 향상과 혁신을 저해할 수 있다며 규제 방식의 정교한 설계를 주문했다.

AI 모델의 위험을 평가하고 관련 내용을 문서화하는 절차가 복잡해지면 심사 과정에 병목이 생겨 AI 기반 금융서비스 출시가 지연될 수 있다. 감독당국이 제시한 점검표를 채우는 데 치중한 형식적 내부통제가 자리 잡을 우려도 있다. 통제 절차를 지나치게 까다롭게 만들 경우 임직원이 승인되지 않은 외부 도구를 사용하는 ‘섀도 AI’가 확산할 가능성도 제시됐다.

섀도 AI 사용이 늘어나면 회사 내부 정보나 고객 데이터가 외부 AI의 학습 자료로 활용되거나 유출될 위험이 커진다. 이를 막기 위해 당국은 공정성·투명성·소비자 보호·데이터 보안과 같은 핵심 원칙을 명확히 제시하고, 금융회사는 각 AI 모델의 위험도와 활용 범위에 맞춰 구체적인 거버넌스를 구축하는 역할 분담이 필요하다는 설명이다.

책임 소재를 분명히 하는 방안도 제안됐다. AI 시스템의 기획과 도입, 운영, 위험 모니터링 등 생애주기별 최종 책임자를 금융회사의 책무구조도에 반영하고, 금융규제 샌드박스와 D-테스트베드를 활용해 서비스 위험을 사전에 검증하는 방식이다. 블랙박스 특성이 있는 최신 AI 모델에는 설명 가능성과 투명성의 최소 요건을 구체화하되, 가이드라인 미준수만을 이유로 제재해서는 안 된다는 방향도 함께 제시됐다.