EU AI 표시 의무화에 빅테크 식별 기술 확대

유럽연합이 이달부터 AI가 생성하거나 변형한 텍스트·이미지·영상·오디오에 기계 판독형 표시를 의무화하면서 주요 AI 기업의 대응이 본격화됐다. 앤트로픽은 지난 2일 이후 EU에서 새로 출시하는 클로드 모델의 결과물에 출처 표시를 적용한다. 구글과 오픈AI도 자체 식별 기술을 운용하고 있어 관련 기술의 활용 범위가 넓어질 것으로 보인다.

앤트로픽은 클로드가 만든 텍스트에 사람이 알아보기 어려운 워터마크를 심고, 이미지와 오디오에는 출처와 변경 이력을 담는 국제 공개 표준 C2PA 메타데이터를 넣는다. 텍스트 워터마크는 복사하거나 일부 편집해도 신호가 남도록 설계됐으며, 회사는 이를 확인하는 탐지 기능도 개발하고 있다. 기존 모델은 4개월의 유예기간이 끝나는 12월 2일부터 규제를 적용받는다.

기업별 적용 방식과 대상에는 차이가 있다. 구글 딥마인드는 2023년 이미지용 신스ID를 선보인 뒤 텍스트·영상·오디오로 확대했다. 텍스트에서는 다음 단어의 확률 분포를 미세하게 조정해 판별 가능한 패턴을 남긴다. 오픈AI는 이미지에 C2PA와 신스ID를 함께 적용하고 오디오에는 신스ID를 사용한다. C2PA는 생성 도구와 시점, 편집 이력을 담을 수 있지만 파일 변환이나 크기 조정 과정에서 사라질 수 있다.

식별 기술이 모든 AI 콘텐츠를 가려내는 것은 아니다. 워터마크는 콘텐츠 자체에 남아 일부 변형에 견딜 수 있으나 담을 수 있는 정보가 제한되고, 텍스트를 크게 고치거나 의역·번역하고 다른 글과 섞으면 검출이 어려워질 수 있다. 짧은 문장도 신뢰도 높은 판별이 쉽지 않다. 비영어권 이용자에게 부정적 낙인을 줄 수 있다는 우려도 제기됐다. 이런 한계 속에서도 앤트로픽·구글·오픈AI·메타는 EU의 AI 생성 콘텐츠 투명성 행동 강령에 참여하고 있다.