금융사 AI 승부처, 자체 운영·보안 역량으로 확장

금융권의 생성형 인공지능 경쟁이 단순한 모델 도입을 넘어 연산 자원과 금융데이터, 접근권한을 직접 관리하는 단계로 옮겨가고 있다. AI 적용 범위가 내부 업무지원에서 고객 서비스와 여신·리스크 관리로 확대되면서 금융정보를 보호하고 시스템을 안정적으로 운용하는 역량이 새로운 경쟁 기준으로 자리 잡는 모습이다.

새마을금고중앙회는 엔비디아 B300 그래픽처리장치 64개를 확보해 생성형 AI를 내부에서 운용할 환경을 구축하고 있다. 모델 추론을 중심으로 일부 모델의 학습·튜닝과 데이터 처리도 직접 수행한다. 내·외부 모델을 업무와 보안정책에 맞춰 구분하고 사용자·부서별 권한과 사용량을 관리하며, GPU는 업무·프로젝트 단위로 배분할 계획이다. 관리자 접속과 권한 변경, 모델 배포 기록도 관리 대상에 포함된다.

모델의 정확도와 환각, 편향성, 개인정보 보호 수준을 검증하고 모델이나 데이터 변경 후 성능 변화도 다시 확인하는 체계가 함께 마련된다. 금융위원회는 지난 6월 22일부터 개정 금융분야 인공지능 가이드라인을 시행해 경영진 책임, 신뢰할 수 있는 데이터와 모델, 임직원의 최종 의사결정 책임, 보안 기준과 점검·개선체계 등을 7대 원칙으로 제시했다. 지난달에는 다중 인증과 최소 권한, 중요 데이터 접근 검증, 네트워크 세분화 등을 담은 보안위협 대응요령도 배포했다.

한국은행도 내부 AI 플랫폼 ‘BOKI’를 구축하고 약 140만건의 내부 문서를 디지털화해 업무 전반에 AI를 활용할 기반을 확보했다. 금융권의 생성형 AI 활용이 외부 서비스 사용을 넘어 내부 데이터와 업무체계를 AI 운용에 맞게 재편하는 국면에 들어선 것이다. 앞으로는 내·외부 AI를 업무 위험도에 따라 배치하고 제한된 연산 자원을 효율적으로 나누는 한편, 결과와 이용 과정을 지속해서 검증할 수 있는지가 경쟁력을 가르는 요소로 부각될 전망이다.