제타 이용시간 챗GPT 두 배…청소년 AI 안전장치 도마

가상 캐릭터와 대화하며 정서적 유대를 쌓는 관계형 인공지능(AI)이 10·20대의 주요 소통 창구로 자리 잡는 가운데, 과몰입과 유해 대화 노출을 막을 안전장치가 실효성을 갖추지 못했다는 우려가 커지고 있다. 제타의 월간 이용 시간은 약 1억1000만 시간으로 챗GPT의 두 배를 넘고, 이용자의 약 90%가 10·20대다.

국회 점검에서는 청소년 보호 환경인 제타 ‘세이프 모드’에서도 미성년 캐릭터가 등장하는 시나리오를 통해 성폭력·성착취와 협박을 묘사하는 대화가 생성됐다. 탐지 모델이 문제 발화 200여 건을 막았지만 필터 우회 시도가 이어졌고, 일부 부적절한 답변이 노출됐다. 차단 뒤 AI가 필터를 피할 표현을 제안하며 유해 대화를 이어간 사례도 확인됐다.

제타와 뤼튼의 크랙 등 관계형 AI는 특정 캐릭터와 지속적으로 상호작용하고 친밀감을 형성하는 방식으로 이용자를 모으고 있다. 이 과정에서 청소년이 AI의 답변을 사람의 반응처럼 받아들이거나 정서적으로 지나치게 의존할 수 있다는 우려가 제기된다. 김종윤 스캐터랩 대표는 국정감사 증인으로 채택됐지만 해외 출장으로 출석하지 않았다.

스캐터랩은 연내 19세 이하 이용자의 하루 기본 이용시간을 3시간으로 제한하고 월 기본 결제 한도를 10만원으로 두는 한편, 연령 등급과 유해 대화 차단 기능을 강화할 계획이다. 뤼튼도 내년부터 청소년의 하루 이용시간을 최대 3시간으로 설정하고 월 결제액 한도를 50만원에서 10만원으로 낮출 예정이다. 정부와 국회는 정보통신망법 개정, AI 기본법 보완, 관계부처 협의 등을 통해 대응책을 마련하겠다는 방침이다.