AI 가상 연애 확산에 각국 규제 칼 빼들어… 한국도 대응 논의

인공지능(AI) 챗봇과 연인처럼 교감하는 '가상 연애'가 전 세계적으로 확산하면서 미국과 중국 등 주요국이 정서적 의존을 막기 위한 규제와 안전장치 도입에 나섰다. 중국은 지난 15일부터 사람의 성격과 말투를 빌려 장기간 감정을 주고받는 '의인화 상호작용 서비스'를 관리하는 잠정 방법을 시행했고, 미국 뉴욕주는 지난해 11월 AI 동반자 모델법을 시행하는 등 주 단위 규제가 잇따르고 있다. 한국에서도 최근 방송통신위원회와 과학기술정보통신부의 대통령 업무보고에서 청소년 대상 SNS 알고리즘과 AI 부작용을 줄일 방안이 논의되면서 AI 챗봇 관리 필요성이 수면 위로 떠올랐다.

중국의 새 규제는 미성년자 보호에 초점을 맞췄다. 사업자는 미성년자에게 '가상 연인'이나 '가상 가족'을 내세운 챗봇을 제공할 수 없고, 14세 미만은 보호자 동의가 필요하며, 연령별 대화 내용과 기능을 제한하는 '청소년 모드'가 의무화됐다. 성인 이용자에게도 가상 존재에 과도하게 의존하지 않도록 대화 도중 극단적 감정이나 자해 위험 신호가 감지되면 상담 연계와 가족 통보 등 위기 개입 절차를 밟아야 하며, 2시간 넘게 대화하면 휴식을 권하는 알림을 띄우도록 했다. 알리바바와 바이트댄스는 '페르소나' 기능을 삭제하거나 축소했고, 주요 챗봇은 신분증 인증을 요구하기 시작했다.

미국에서는 AI 챗봇과의 대화 후 극단적 선택을 한 이용자 유가족 소송이 늘면서 규제 움직임이 빨라졌다. 뉴욕주는 대화 상대가 AI라는 사실을 명확히 고지하고, 3시간마다 재고지하며, 자해 신호가 포착되면 위기상담기관으로 연결하도록 의무화했다. 캘리포니아주는 올 1월 청소년 보호에 초점을 맞춘 유사한 규제를 도입했고, 메인·유타·네바다·일리노이주 등도 관련 법안을 만들거나 추진 중이다. 구글은 제미나이에 정신건강 위기 신호 감지 시 상담 전화 연결 기능을 넣었고, 오픈AI도 챗GPT가 정서적 고통 징후를 인지하도록 학습시켰다고 밝혔다.

한국은 2021년 '이루다' 사태로 AI 챗봇 부작용을 일찍 경험했다. 이후 스캐터랩이 선보인 역할극형 챗봇 '제타'는 지난해 10월 월간 사용 시간 7362만 시간으로 챗GPT를 제치고 국내 AI 챗봇 중 가장 길었으며, 미성년 이용자 비중도 높은 것으로 알려졌다. 전문가들은 SNS 과몰입 규제 논의가 AI 챗봇으로 확대되는 것은 시간문제라고 본다. 최항섭 국민대 교수는 AI 챗봇이 '감정적 지지' 영역이라 중독성이 SNS보다 강하다고 지적했고, 이성엽 고려대 교수는 서비스 설계 단계에서 사업자 책임을 지우는 방식을 먼저 고려해야 한다고 조언했다.