AI 판단 근거·검증 체계, ITU 국제기준 채택

한국전자통신연구원(ETRI)이 전문지식을 토대로 추론하고 판단 이유를 설명하며 생성 결과의 사실성까지 검증하는 의사결정지원 인공지능 기술을 개발했다. 이 기술의 시스템 구조와 요구사항을 규정한 표준은 12일 국제전기통신연합 전기통신표준화부문(ITU-T)의 국제표준으로 승인됐다.

승인된 표준은 F.748.59 ‘인간-기계 상호작용 기반 설명가능한 의사결정지원 시스템의 프레임워크와 요구사항’이다. 답변과 판단 이유 제시, 전문지식 기반 추론, 근거와 분석을 담은 보고서 제공, 추가 확인 정보 식별, 사용자 피드백 반영, 전문지식의 지속적 갱신을 공통 기능으로 제시했다. 텍스트와 함께 표·이미지·도식 등 여러 형태의 정보를 활용하는 요건도 포함됐다.

생성형 AI는 다양한 질문에 자연스럽게 대응할 수 있지만 결론에 이른 과정과 활용 근거, 결과의 신뢰도를 충분히 드러내지 못하는 한계가 있다. 결과에 대한 책임과 신뢰가 중요한 의료·법률·금융·행정 분야에서는 판단 과정을 확인할 수 있는 장치가 요구된다. 이번 표준은 특정 모델이나 제품에 한정되지 않고 기업과 공공기관이 설명가능한 AI 서비스를 설계할 때 적용할 수 있는 공통 기준으로 마련됐다.

ETRI는 표준을 실제 시스템에 구현할 핵심 기술도 확보했다. 설명가능한 분류 기술은 전문문서와 상담 기록에서 주요 상황과 유형을 구분하고 판단 근거를 제시한다. 멀티모달 자가검증 검색증강생성(RAG) 기술은 표와 이미지, 도식이 포함된 문서에서 정보를 찾은 뒤 질문과의 관련성과 답변의 근거 반영 여부를 스스로 점검한다. 사실성 검증 기술은 답변이나 보고서가 실제 근거와 일치하는지 확인하고, 불일치하거나 신뢰하기 어려운 내용과 추가 확인 대상을 사용자에게 알린다. ETRI는 전문가가 결과를 직접 검토하고 책임 있게 활용하도록 기술을 계속 고도화할 계획이다.