클로드 생성물에 식별 표식…전 세계 적용

앤스로픽이 인공지능 모델 클로드로 만든 글과 파일에 사람의 눈으로는 볼 수 없지만 기계로 판독할 수 있는 식별 표식을 도입했다. 생성된 내용을 다른 곳에 복사하거나 일부 문구를 수정한 뒤에도 흔적을 확인할 수 있게 해, 해당 콘텐츠가 AI를 통해 만들어졌는지와 그 출처를 식별하려는 조치다.

11일 공개된 적용 방식은 텍스트와 파일의 특성에 따라 구분된다. 텍스트에는 겉으로 드러나지 않는 워터마크를 삽입해 복사와 부분 수정 이후에도 생성 흔적이 남도록 했다. 파일에는 제작에 사용된 AI를 확인할 수 있는 출처 정보를 디지털 서명 형태로 담아 기계가 관련 정보를 읽을 수 있게 한다.

이번 도입은 지난 2일부터 시행된 유럽연합 AI법의 ‘AI 생성물 투명성 규정’에 대응하는 성격을 갖는다. 이 규정은 생성형 AI가 만든 글이나 이미지가 사람의 창작물로 잘못 받아들여지거나, 허위 정보와 딥페이크 등에 활용되는 일을 막기 위해 콘텐츠의 AI 생성 여부를 표시하도록 요구한다.

표시 기능은 유럽연합 지역에 한정되지 않고 전 세계 클로드 이용자에게 적용된다. 이달 2일 이후 출시되는 신규 모델에는 공개 시점부터 기능이 포함되며, 기존 모델에도 순차적으로 추가될 예정이다. 구글과 오픈AI 역시 규정 시행 전부터 AI 생성 이미지 등에 워터마크 또는 출처 정보를 표시해 왔다.