아동에 무방비 노출되는 잔혹한 ‘AI 과일극’

생성형 인공지능으로 제작한 이른바 ‘AI 과일 드라마’가 소셜미디어에서 확산하고 있다. 형형색색의 과일과 채소가 사람처럼 움직이는 친숙한 모습과 달리, 일부 영상에는 캐릭터를 때리거나 신체를 훼손하는 폭력적 장면이 담겼다. 어린이와 청소년도 별다른 제한 없이 이런 콘텐츠를 접할 수 있어 노출을 줄일 대책이 필요하다는 지적이 제기된다.

확인된 영상들은 생성형 AI로 과일·채소 캐릭터의 움직임과 상황을 구현하면서 드라마 형식의 이야기를 전개한다. 이 가운데 단순한 갈등 묘사를 넘어 캐릭터가 폭행당하거나 훼손되는 장면을 구체적으로 보여주는 사례가 나타났다. 특정 범죄를 떠올리게 하는 내용이 등장하고, 해당 범죄와 연결되는 해시태그가 함께 사용된 영상도 확인됐다.

문제는 밝고 알록달록한 과일과 채소가 주인공이라는 외형이 실제 내용의 폭력성을 가릴 수 있다는 점이다. 겉보기에는 어린이도 부담 없이 볼 만한 캐릭터 영상처럼 보이지만, 재생 이후에는 잔혹한 장면이 이어질 수 있다. 소셜미디어에서 이러한 영상이 손쉽게 유통되는 상황에서도 청소년과 어린이를 대상으로 한 별도의 접근 제한은 제대로 작동하지 않고 있다.

전문가들은 보호자가 영상의 소재나 첫 화면만 보고 안전한 콘텐츠로 판단해서는 안 된다고 주의를 당부했다. 과일과 채소를 전면에 내세운 표현 방식은 플랫폼이 폭력적인 콘텐츠를 가려내고 규제하는 과정에서도 사각지대를 만들 수 있다. AI 제작 영상의 실제 내용을 기준으로 유해성을 살피고, 어린 이용자의 무제한 노출을 막을 수 있는 대응책이 요구된다.