제타, 청소년 하루 이용·월 결제 상한 연내 적용

인공지능 캐릭터 챗봇 제타가 청소년 이용자의 과몰입을 막기 위해 하루 이용시간을 3시간, 월 결제액을 10만원으로 제한하는 정책을 연내 도입한다. 운영사 스캐터랩은 청소년 서비스 이용을 관리하려는 국내외 흐름을 고려해 보호 방안을 검토한 뒤 시행을 결정했다고 12일 밝혔다.

정책이 적용되면 청소년 계정에는 하루 3시간 이용과 월 10만원 결제 한도가 기본값으로 설정된다. 이용시간이 한도에 가까워지면 휴식을 권하는 안내가 나오고, 이용시간이나 결제액이 정해진 기준에 이르면 서비스 이용과 결제가 제한된다. 제타는 이용자가 캐릭터와 세계관을 만들고 AI와 대화하는 플랫폼으로, 9월 말 기준 월간 활성 이용자 148만명 가운데 19세 이하가 38만명이다.

제타에는 청소년 유해매체물 수준의 콘텐츠를 제한하는 세이프 모드와 본인인증을 거친 성인에게 자유로운 표현을 허용하는 언리밋 모드가 운영돼 왔다. 대화에서 자살·자해 표현이 반복 감지되면 전문 상담기관을 안내하고, 플레이 화면에는 대화 상대가 AI라는 점을 상시 표시한다. 다만 최근 황정아 더불어민주당 의원실 점검에서는 세이프 모드에서도 미성년 캐릭터가 등장하는 시나리오에 성폭력·성착취 및 협박 관련 대화가 생성됐다. 유해 대화 탐지 모델이 문제 발화 200여건을 막았지만 우회 시도 뒤에는 생성·노출된 사례도 확인됐다.

스캐터랩은 이야기를 만드는 단계부터 연령에 맞게 전개와 묘사 수위를 조절하도록 플레이 모델을 고도화하고, 차단을 우회하려는 요청에 응하지 않도록 학습하겠다고 밝혔다. 대화 전체 맥락을 더 폭넓게 반영하는 신규 탐지 모델을 배포하고 레드팀 점검도 매월 진행할 계획이다. 김종윤 대표는 청소년이 안전하고 건강하게 이용할 환경을 만드는 일이 중요하다며 정부·업계의 이용자 보호 논의에 참여하고 보호 장치를 계속 개선하겠다고 밝혔다.