금융권 AI 위험 검증 기준 마련…내년 평가 착수

금융보안원이 금융회사의 인공지능 시스템을 대상으로 안전성과 신뢰성을 종합 점검하는 평가 프레임워크를 국내 최초로 마련했다. AI 환각과 오작동, 보안사고 등 금융 서비스에서 발생할 수 있는 잠재 위험을 객관적으로 검증하는 체계다. 올해 수요조사와 시범검증을 거쳐 보완한 뒤 내년부터 정식 평가 업무를 시작한다.

프레임워크에는 국내외 주요 AI 평가 체계를 분석해 정리한 세부 기술 평가 항목과 기준이 담겼다. 국내 금융분야 인공지능 가이드라인과 인공지능 보안 안내서, 금융분야 AI 위험관리 프레임워크, AI기본법을 반영했다. 국제표준인 ISO/IEC 42001과 ISO/IEC TR 24028, OWASP의 AI Testing Guide, 영국 AISI의 Inspect도 검토 대상에 포함됐다.

망분리 완화를 비롯한 금융당국의 규제 혁신으로 금융권의 인공지능 전환이 빨라지고, AI 적용 범위가 핵심 업무로 넓어지면서 금융산업에 특화된 검증 기준의 필요성이 커졌다. 새 체계는 엄격한 규제 준수와 높은 수준의 안전성·신뢰성이 필요한 금융회사의 특성을 반영했으며, 금융위원회 가이드라인에 제시된 신뢰성과 보안성 원칙을 기술적으로 확인할 수 있도록 설계됐다.

금융보안원은 오는 14일 금융회사를 대상으로 온라인 설명회를 열고 9월 중 수요조사를 진행한다. 하반기에는 금융 AI 안전성·신뢰성 평가를 시범 운영해 프레임워크의 실효성을 확인하고 평가 항목을 보완할 계획이다. 박상원 원장은 기술 평가 항목을 강화해 AI 서비스의 잠재 위험을 실질적으로 살필 수 있게 했다고 설명했다. 향후 금융권 표준 체계로 발전시키는 한편 AI기본법상 안전성·신뢰성 검증 및 인증 체계로 활용하는 방안도 추진한다.