AI 판단 과정 밝히는 국제 기준 확립

한국전자통신연구원(ETRI)이 전문지식에 기반해 추론하고 판단의 이유와 근거를 설명하며 생성 결과까지 검증하는 의사결정지원 인공지능 기술을 개발했다. 이 기술의 시스템 구조와 요구사항을 규정한 표준은 12일 국제전기통신연합에서 ITU-T F.748.59로 승인됐다. 특정 모델이나 제품에 종속되지 않아 기업과 공공기관이 설명가능한 AI 서비스를 설계할 때 공통 기준으로 활용할 수 있다.

표준에는 질문에 대한 결과와 이유 설명, 전문지식 기반 추론, 판단 근거와 분석을 담은 보고서 제공, 사용자 피드백 반영, 전문지식 갱신 기능이 포함됐다. 텍스트뿐 아니라 표·이미지·도식 등 여러 형태의 정보를 활용하고, AI가 추가 확인이 필요한 정보도 식별하도록 공통 구조와 핵심 기능을 정했다. 결과 제시에 그치지 않고 판단 과정과 검증 내용을 함께 보여주는 체계를 제시한 것이다.

ETRI는 표준을 구현할 핵심기술도 확보했다. 설명가능한 분류 기술은 전문문서와 상담기록을 분석해 상황과 유형을 나누고 근거를 제시한다. 멀티모달 자가검증 검색증강생성(RAG)은 표와 이미지, 도식이 포함된 문서에서 정보를 찾아 검색 결과와 생성 답변의 적절성을 스스로 점검한다. 사실성 검증 기술은 답변이나 보고서가 실제 근거와 일치하는지 확인하고 신뢰하기 어려운 내용을 사용자에게 알린다.

인터랙티브 플래닝 기반 보고서 생성 기술은 사용자의 목적과 형식에 맞춰 작성 계획을 세우고 전문지식과 분석 결과를 반영해 문서를 단계적으로 만든다. 생성형 AI가 자연스러운 답변을 내놓아도 결론의 근거와 신뢰성을 설명하기 어려웠던 한계를 의료·법률·금융·행정 등에서 보완할 기반이다. 고영향 AI의 주요 기준과 판단 과정에 대한 설명을 요구하는 AI 기본법에 대응해 기업과 공공기관의 설명 의무 이행을 뒷받침할 기술 기준으로 활용될 전망이다.