판단 근거 밝히는 AI, 국제 공통기준 마련

한국전자통신연구원(ETRI)이 개발한 ‘설명 가능한 의사결정 지원 인공지능(AI)’ 기술의 시스템 구조와 요구사항이 국제표준으로 승인됐다. 국제전기통신연합 전기통신표준화부문(ITU-T)이 승인한 표준은 F.748.59 ‘인간-기계 상호작용 기반 설명 가능한 의사결정 지원 시스템의 프레임워크와 요구사항’이다. ETRI는 기술 개발과 국제표준 승인을 12일 공개했다.

이 표준은 AI가 답변만 제시하지 않고, 결론을 도출한 근거와 이유, 추가 확인이 필요한지를 함께 설명하도록 시스템의 기본 구조와 요건을 규정한다. 전문지식을 이용한 추론과 판단 근거, 분석 내용을 보고서로 제공하는 기능을 비롯해 확인이 더 필요한 정보의 식별, 사용자 피드백 반영, 변화하는 전문지식의 지속적인 갱신을 포함한다. 텍스트와 표, 이미지, 도식 등 여러 형식의 정보를 활용하는 기능도 적용 범위에 담겼다.

생성형 AI는 사용자의 질문에 빠르게 답할 수 있지만, 답변에 사용한 근거나 결과의 신뢰성을 충분히 제시하지 못하는 한계가 있었다. 특히 의료·법률·금융·행정처럼 결과에 대한 책임과 신뢰가 필요한 분야에서는 AI의 판단 과정을 설명하는 기능이 요구된다. ETRI의 기술은 전문지식을 바탕으로 추론하고 판단 이유를 밝히는 동시에 생성된 결과를 검증할 수 있도록 설계됐다.

이번 표준은 특정 AI 모델이나 제품에 국한되지 않아 기업과 공공기관이 설명 가능한 AI 서비스를 설계할 때 공통기준으로 활용할 수 있다. 최근 시행된 AI 기본법이 답변 결과를 도출한 기준과 판단 과정에 대한 설명을 요구하는 만큼, 관련 기관이 설명 의무를 이행하는 데 필요한 기술적 기준으로 쓰일 가능성도 제시됐다. 이용주 ETRI 시각지능연구실장은 전문가가 결과를 직접 검토하고 책임 있게 활용할 수 있도록 근거와 검증 정보를 함께 제공하는 데 기술의 초점이 맞춰졌다고 밝혔다.