AI 콘텐츠 식별표시, 창작물 유통 기준으로 확대

AI 생성물의 제작 주체와 출처를 드러내는 식별표시가 규제와 플랫폼 정책 전반으로 확산하고 있다. EU가 지난 2일부터 AI법의 투명성 규정을 시행한 가운데 앤스로픽은 신규 클로드 모델의 글과 파일에 사람이 직접 볼 수 없는 워터마크를 넣기로 했다. 스포티파이도 9월 중순부터 실존하지 않는 가수에게 ‘AI 페르소나’ 또는 ‘AI 페르소나 가능성 높음’ 표시를 적용하고 추천 노출을 제한한다.

클로드가 작성한 문장에는 단어 선택의 통계적 패턴을 심어 컴퓨터나 AI가 생성 여부를 판별하도록 한다. 이미지와 파일에는 제작 도구와 수정 이력을 기록하는 C2PA 기반 전자서명 데이터를 삽입하며, 이 기능은 기존 모델에도 확대된다. 다만 번역·요약·교정에만 클로드를 써도 흔적이 남을 수 있고, 짧거나 크게 고친 글에서는 사라질 수 있어 표시의 유무만으로 글 전체의 작성 주체나 AI 미사용을 단정할 수 없다.

EU AI법 제50조는 생성형 AI 사업자에게 AI로 생성하거나 편집한 콘텐츠를 기계가 식별할 수 있게 표시하도록 요구한다. 앤스로픽은 구글·메타·마이크로소프트·오픈AI 등과 함께 관련 행동 규범 준수를 약속했다. 플랫폼의 자율 조치도 이어져 수노는 자사 생성 음악에 표시를 달고, 서브스택은 팽그램과 AI 콘텐츠 식별 기능을 도입했다. 실제 인물처럼 활동하는 AI 가수·작가·전문가가 늘면서 출처 공개 요구도 커지고 있다.

스포티파이는 자진 신고와 자체 검토를 병행하고 오분류에 대한 이의 제기도 받는다. AI 페르소나 음악은 삭제하거나 수익 지급을 중단하지 않지만 편집자 목록과 알고리즘·개인 맞춤 추천에서 기본 제외한다. 판단 기준은 AI를 작곡·편집에 썼는지가 아니라 공개된 아티스트가 실존 인물인지다. 미국 성인 5119명 조사에서는 63%가 AI 발전 속도를 우려했고, 40%가 향후 20년간 부정적 영향을 예상했다. 개인정보가 덜 안전해질 것이라는 응답은 71%, 미국 AI 기업의 책임 있는 개발을 신뢰하지 않는다는 응답은 59%였으며 긍정적 영향을 예상한 비율은 16%였다. 이에 따라 AI 표시는 단순 고지를 넘어 콘텐츠 노출과 유통을 좌우하는 운영 기준으로 작동할 수 있다.