AI 판단 근거·결과 검증 기술, 국제 기준 마련
핵심 요약
ETRI가 AI의 판단 근거를 설명하고 생성 결과의 사실성을 검증하는 의사결정지원 기술을 개발했다. 시스템 구조와 핵심 요구사항을 담은 국제표준은 ITU 승인을 받았다. 설명가능한 분류와 멀티모달 자가검증 RAG, 사실성 검증, 단계적 보고서 생성 기술이 함께 마련됐다.
한국전자통신연구원(ETRI)이 전문지식을 활용해 추론하고 판단 이유를 설명하는 동시에 생성 결과의 사실성까지 검증하는 ‘설명가능한 의사결정지원 AI 기술’을 개발했다. 이 기술의 시스템 구조와 요구사항을 규정한 국제표준은 국제전기통신연합(ITU)의 승인을 받았다.
국제표준은 사용자 질문에 대한 결과와 도출 이유를 제시하고, 전문지식을 토대로 추론한 근거와 분석 내용을 보고서로 제공하도록 공통 구조를 정했다. 추가 확인이 필요한 정보의 식별, 사용자 피드백 반영, 변화하는 전문지식의 지속적 업데이트도 요구사항에 포함됐다. 텍스트뿐 아니라 표와 이미지, 도식 등 여러 형태의 정보를 활용하는 기능도 제시됐다.
연구진은 표준에서 정의한 기능을 실제 시스템에 적용하기 위한 핵심 기술도 확보했다. 중요 상황과 유형을 구분해 판단 근거를 제시하는 설명가능한 분류 기술, 전문문서의 텍스트·표·이미지·도식에서 필요한 정보를 찾는 멀티모달 기반 자가검증 RAG 기술, AI 답변과 보고서가 실제 근거에 부합하는지 살피는 생성 결과 사실성 검증 기술을 개발했다. 사용자 목적과 형식에 맞춰 보고서를 단계적으로 만드는 인터랙티브 플래닝 기반 생성 기술도 마련했다.
생성형 AI 결과의 신뢰성 문제가 커지는 가운데 의료와 법률, 금융, 행정처럼 판단 과정의 설명이 중요한 분야에서 활용할 수 있는 기술적 기준이 마련됐다는 데 의미가 있다. 이용주 ETRI 시각지능연구실장은 기업과 공공기관의 신뢰 가능한 AI 서비스 구축과 AI 기본법상 설명 의무 이행에 활용될 기준이라는 입장을 밝혔다. 배경만 박사는 확보한 기술을 계속 고도화할 계획을 제시했다. 연구는 과학기술정보통신부와 정보통신기획평가원 지원을 받아 사람중심 AI 핵심원천기술개발사업의 하나로 수행됐다.