금융 AI 검증기준 첫 구축…2027년 평가 착수

금융보안원이 금융권의 인공지능 안전성과 신뢰성을 점검하는 국내 최초의 금융 특화 평가 프레임워크를 개발했다. 금융회사의 AI 활용 과정에서 발생할 수 있는 환각과 오작동, 보안 사고를 체계적으로 관리하기 위한 기준으로, 2027년부터 금융사를 대상으로 본격적인 평가 업무를 시작할 계획이다.

평가체계는 신뢰성 4개 항목과 안전성 6개 항목으로 구성됐다. 신뢰성 부문에서는 모델 성능과 데이터 품질, 공정성, 설명가능성을 살피며, 안전성 부문에서는 AI에 특화된 보안 위협과 공격 탐지·대응, 자산 보호 등을 점검한다. 금융위원회의 금융 분야 AI 가이드라인과 국내외 AI 평가체계를 종합적으로 분석해 금융업의 특수성을 기준에 반영했다.

금융당국의 망분리 완화 등 규제 혁신과 맞물려 금융권의 AI 전환이 빨라지면서 별도의 검증 기준을 마련해야 할 필요성도 커졌다. 2021년에는 AI의 금융상품 추천·판매 과정에서 알고리즘의 유효성과 편향성, 공정성을 확인하기 위한 논의가 진행됐고, 2023년에는 금융기관들이 AI 윤리 기준과 업무 지침을 포함한 거버넌스 구축에 나섰다. 최근에는 데이터 통합과 관리체계 강화, AI 오류의 사전 점검도 주요 과제로 부상했다.

금융보안원은 8월 14일 금융회사를 대상으로 온라인 설명회를 열고, 다음 달 수요 조사를 거쳐 올해 하반기 시범 검증을 진행한다. 현장 적용 과정에서 확인된 결과를 토대로 평가 항목과 절차를 보완한 뒤 2027년 평가를 개시할 예정이다. 초기 대상은 금융보안원 대의원사이며 이후 전체 금융회사로 범위를 넓힌다. 평가가 시행되면 금융사는 AI 모델과 데이터, 보안 대응체계를 동일한 틀에서 점검할 수 있게 된다.