EU, AI 생성물 식별 의무화…매출 3%까지 제재

유럽연합(EU)이 2일부터 딥페이크를 비롯한 인공지능(AI) 생성·조작 콘텐츠의 투명성 규정을 시행했다. EU 시장에 챗봇 등 생성형 AI 시스템을 내놓는 기업은 이미지와 음성, 영상, 텍스트에 워터마크나 메타데이터처럼 기계가 판독할 수 있는 식별 정보를 넣어야 한다. 이용자가 딥페이크를 접할 때도 해당 사실을 반드시 알려야 한다.

공익적 정보를 전달하거나 일반 대중의 관심사를 다루는 정보성 텍스트도 사람의 편집·감독 없이 AI로 제작됐다면 고지 대상이다. 개인이 순수한 사적 목적으로 AI를 이용하는 경우와 예술·창작·풍자·픽션 작품은 규제에서 제외된다. 기존 AI 시스템에는 12월 2일까지 적용이 유예되며, 12월부터는 선정적인 딥페이크를 생성하는 AI 시스템에 대한 제재도 시작된다.

이번 규정은 EU가 2024년 세계 최초의 AI 규제 법률로 마련한 AI법을 단계적으로 시행하는 과정에 포함됐다. EU 집행위원회는 위반 기업에 시정명령과 함께 위반 유형별 과징금을 부과한다. 상한은 1천500만유로, 약 264억원 또는 전 세계 연 매출의 3%다. 가장 중대한 위반에는 직전 회계연도 세계 연 매출의 7%와 3천500만유로, 약 590억원 중 더 큰 금액이 적용된다. 규정은 생성형 AI가 특정 대상을 겨냥한 허위정보를 대규모로 신속하게 퍼뜨릴 수 있는 상황에서 이용자가 접하는 콘텐츠의 신뢰를 확보하는 데 목적을 두고 있다.

플랫폼과 AI 기업들도 표시 체계를 마련하고 있다. 틱톡은 크리에이터 계정에 AI 제작 이미지·오디오·영상의 라벨 부착을 요구하고, 메타는 인스타그램과 페이스북에 AI 활용 게시물 표시를 도입했다. 구글은 EU의 AI 투명성 행동강령에 서명했으며 엔비디아, 오픈AI, 애플 등과 AI 생성 여부를 사후 판별할 수 있는 비가시성 디지털 태깅 기술을 개발 중이다. 다만 구글의 카렌 매신은 서로 다른 라벨과 법적 고지가 한 콘텐츠에 섞일 경우 이용자가 맥락을 명확히 파악하기 어려워질 수 있다며 규제 복잡성을 우려했다.