금융 AI 위험 진단할 첫 특화 기준 구축

금융권의 인공지능 활용 과정에서 안전성과 신뢰성을 객관적으로 점검할 수 있는 국내 첫 금융 특화 평가 체계가 마련됐다. 금융보안원은 12일 금융회사의 AI 모델과 데이터, 보안 운영 전반을 종합적으로 검증하는 프레임워크 개발을 마쳤다. 금융 분야에 맞춘 공통 기준으로 AI 도입 단계부터 위험 요인을 살필 수 있도록 설계한 것이 핵심이다.

평가 체계는 금융위원회의 ‘금융분야 인공지능 가이드라인’에 담긴 신뢰성·보안성 원칙을 기술적으로 검증할 수 있게 구성됐다. 신뢰성 영역에는 모델 성능관리, 데이터 품질관리, 공정성·편향성, 설명가능성 등 4개 항목이 포함됐다. 안전성 영역은 AI 특화 보안위협, 특화공격 탐지·대응, AI 자산 보호관리, 외부 모델·데이터 검증, 기존 보안관리의 확장 적용, 보안 검증 및 운영관리 등 6개 항목으로 나뉜다.

이번 체계 개발은 금융회사의 AI 적용 범위가 핵심 업무로 넓어지면서 환각과 오작동, 보안사고에 대응할 별도 기준이 필요해진 데 따른 조치다. 일반적인 AI 평가 방식만으로는 금융산업의 특수성을 충분히 반영하기 어렵다는 문제의식 아래 총 10개 평가 항목을 정립했다. 금융보안원은 각 항목을 실제 검증에 활용할 수 있도록 구체화한 세부 기준도 조만간 공개할 예정이다.

금융보안원은 올해 하반기 금융회사를 대상으로 온라인 설명회와 수요 조사를 실시하고, 현장 적용 가능성을 확인하는 시범검증을 진행한다. 검증 결과를 토대로 해당 체계를 금융권의 표준 프레임워크로 발전시키는 한편, AI기본법상 안전성·신뢰성 검증 및 인증 체계로 활용하는 방안도 추진할 계획이다. 박상원 금융보안원장은 금융산업의 특수성을 반영한 첫 평가 체계라는 의미를 강조하며 안전하고 신뢰할 수 있는 AI 활용을 지원하겠다는 방침을 밝혔다.