틱톡, 1500만명 안전장치 제외 실험 논란

틱톡이 앱 체류 시간과 트래픽 변화를 측정하기 위해 미국 이용자 약 1500만명에게 자해·자살 관련 영상의 반복 추천을 막는 안전 기능을 적용하지 않은 사실이 내부 문서에서 확인됐다. 실험 대상에 무작위로 포함된 뉴욕주의 16세 소년은 자살·우울증 관련 영상을 집중적으로 추천받은 뒤 2022년 2월 사망했다.

틱톡은 2021년 말 자해와 자살, 우울감을 부추기는 영상이 연속으로 노출되는 것을 차단하는 알고리즘 기능을 개발했다. 하지만 이 기능이 이용률에 미치는 영향을 확인한다며 미국 이용자의 10%를 대조군으로 지정했다. 2023년 3월 작성된 내부 보고서에는 안전성과 일간 활성 이용자 수 측정 사이의 균형을 고려해 기능 누락이 의도적으로 설계됐다는 내용이 담겼다.

틱톡 알고리즘 팀이 소년의 사망 이후 이용 기록을 자체 분석한 결과, 사망 전 2주 동안 추천된 영상 가운데 73%가 자살이나 우울증과 관련된 내용이었다. 이 가운데 틱톡 자체 규정을 위반한 영상은 10%에 이르렀다. 소년은 사망 당일에도 자살을 암시하는 영상을 수시간 동안 반복해 시청한 것으로 조사됐다.

보고서 작성 2주 뒤 추쇼우지 최고경영자는 미국 의회 청문회에서 청소년 안전을 최우선 과제로 제시하면서도 알고리즘 실험 사실은 공개하지 않았고, 플랫폼 이용이 자살을 유발했다고 보지 않는다고 답했다. 문서는 빅테크 기업 대상 집단소송의 증거 개시 과정에서 외부로 나왔다. 틱톡은 안전 기능 검증을 위한 정기적 비교 시험이었으며 현재 시험 방식을 개선했다고 해명했지만, 트래픽 지표를 위해 청소년 보호를 소홀히 했다는 비판이 커지고 있다.