AI 판단 근거 제시 체계, ITU-T 국제기준 됐다

인공지능이 의사결정 결과와 함께 판단 근거와 이유를 설명하도록 설계한 국제표준이 12일 국제전기통신연합 전기통신표준화부문(ITU-T)의 승인을 받았다. 한국전자통신연구원(ETRI·원장 박세웅)이 마련한 이 기준은 설명이 가능한 의사결정지원 인공지능 시스템의 구조와 필수 기능을 국제 규격으로 구체화했다.

승인된 표준의 명칭은 ‘인간-기계 상호작용 기반 설명가능한 의사결정지원 시스템의 프레임워크와 요구사항(F.748.59)’이다. 인공지능이 결론만 내놓는 방식에서 벗어나 판단에 사용한 근거와 이유, 사용자가 추가로 확인해야 할 정보까지 함께 제시하도록 시스템 구성과 기능 요건을 규정한 것이 핵심이다.

ETRI는 이번 국제표준에 부합하는 핵심 기술도 개발했다. 전문지식에 기반한 추론과 판단 근거 제시 기능을 비롯해 멀티모달 검색증강생성(RAG)의 자가검증, 생성된 결과의 사실성 검증, 보고서 자동 생성 기술이 포함됐다. 시스템의 판단 과정부터 결과 검토와 문서 작성까지 연결할 수 있도록 기술 범위를 구성했다.

이 기준은 특정 인공지능 모델이나 개별 제품에 종속되지 않아 기업과 공공기관이 설명가능한 인공지능 서비스를 구축할 때 공통 기준으로 활용할 수 있다. ETRI는 고영향 인공지능의 판단 기준과 처리 과정에 관한 설명을 요구하는 AI 기본법에 대응하는 기술 기반으로도 쓰일 수 있을 것으로 기대했다. 이용주 ETRI 시각지능연구실장은 신뢰할 수 있는 서비스 구축과 법이 요구하는 설명 의무 이행에 이번 표준이 중요한 기준이 될 것으로 평가했다.